機械学習による公正な採用の確保

Machine Learning

機械学習は非常に困難です。多くの人々は、このテクノロジーはほぼ全能であり、あらゆる問題を簡単に解決できると考えていますが、有用で堅牢で偏りのない結果を生み出すために必要な努力を考慮することを忘れがちです。

一般に、機械学習の実装に費やされる時間は、機械学習を構築するための基礎ではありません。これは、基本構造のほとんどが十分に解決されており、事前に作成できるためです。難しいのは、データを準備し、モデルを最適化して、実際の実際の例に役立つようにすることです。

真に効果的な機械学習モデルを実装するには、数か月から数百万ドルかかる場合があります。このプロセスには通常、スーパーコンピューターまたはクラウドアーキテクチャ上の多数の分散コンピューターグリッドで実行される、非常に長く複雑な計算が含まれます。真に読まれるには、同じ問題の無限の変更をシステムで実行して、主要な指標によって測定されたより良い結果を生成しようとする必要があります。

私は自分の目でこれらの困難を2回目撃しました。 1つは、予測ツールを使用して自動取引戦略を構築する暗号ヘッジファンドです。2つ目は、Googleで、パイプラインが機械学習データと注釈を処理するのを支援します。これらの経験から、必要な労力と労力を費やさないと、公平性に注意を払わずに公平に採用することが難しいのと同じように、優れた機械学習を生み出すことは不可能であることがわかりました。

ほとんどの場合、機械学習に投資するよりも単純なソリューションの方が便利です。

完璧な最良の答えは、些細な答えよりも少しだけ良いかもしれません-これは通常十分です、特にモデルを訓練するコストを考えるとき、あなたの状況は人間によってなされた知識に基づく推測よりはるかに悪いかもしれません。

ただし、非常に難しい質問の場合、わずかに良い回答が大きな影響を与える可能性があり、機械学習は全体的な結果に大きな影響を与える可能性のある非常に貴重なツールです。機械学習はさまざまな戦略の総称であり、さまざまな問題に対してさまざまな程度の成功を収めることができます。

たとえば、遺伝的アルゴリズムは、さまざまな状況でうまく機能する一般的な戦略です。各反復中に、すべての候補者は彼らの成功を再評価します。この方法は、ダーウィンの進化論を模倣し、(問題の定義に従って)最も成功した候補を大きなプールから選択し、これらの候補で構成される新しい候補を作成します。

技術的には、各反復またはエポックで、個々の候補者のヒューリスティックな強度または適合性がテストされます。たとえば、完璧なブラウニーレシピを見つけようとしているパン屋を想像してみてください。最初のバッチでは、材料をランダムに調整しました。これらのわずかに異なるブラウニーのバッチを焼いた後、彼らは各バッチを味わいました。次に、最高のフレーバーのブラウニーレシピをいくつか取り、これらのレシピを混ぜ合わせてさらにレシピを作成し、パン屋がおいしいブラウニーレシピだけを入手するまで繰り返します。

チェックを外したままにすると、機械学習は信じられないほどのバイアスを生み出す可能性があります。

この進化戦略には、しばしば問題となる大きな欠陥が伴います。多様性はゼロになる傾向があります。システムの各世代で、最も成功した候補者がより頻繁に勝ち、次世代によって選択されたプロジェクトの1つになる可能性が高くなります。時間が経つにつれて、この状況は複雑になる可能性があり、その結果、ますます多くの同様の候補者が常に前進しています。

ご存知のように、生態系における生物多様性の欠如は問題であり、人工知能は同様の問題の影響を受けやすくなっています。たとえば、労働集約的な採用プロセスを自動化するために、Amazonは誤って、男性を大いに支持する失敗した履歴書フィルターを開発し、「女性」という用語を使用して、卒業生や女子大学のクラブメンバーを罰しました。どうしてそうなった?アルゴリズム、特に人工知能に基づくソリューションは、それらをトレーニングするために提供されたデータに完全に依存しています。主に男性で構成される採用の成功についてアルゴリズムがトレーニングされると、これらのバイアスは一見「客観的」なモデルで再現されます。

これらの多様性の問題は遺伝的アルゴリズムで非常に一般的であるため、バイアスを減らすことは、より良い結果を得るための最も価値のある時間の使用の1つです。システムにランダム性と多様性を導入し、ランダムなアイテムを一定期間にわたってより目立たせて高品質の結果が得られるかどうかを確認するか、まったく異なる新しいプロジェクトを導入することで、遺伝的過剰適合を改善できます。それは支配するチャンスです。

厳密な経験的データを通じて人工知能の偏りを減らす方法を理解しており、企業や学術コミュニティに多様性を再導入することで、これらの教訓を学び、社会に適用することができます。米国最大のテクノロジー企業では、女性が技術職の25%未満を占めており、すべてのAI職の約22%を占める女性の場合、この数はさらに少なくなっています。これが機械学習で発生する場合、私たちはより多様性を導入し、舞台裏の人々が必要とする努力を反映して、グループが過小評価されないようにします。

独自の意見を奨励することで、創造性の喪失を防ぐことができます。

このため、さまざまなタイプの雇用市場であらゆるバックグラウンドの人々の代表を確保することにより、これらの不均衡を解決し、これらの不均衡を修復し、雇用市場のバランスを回復することが数学的に重要です。性別や民族の違いに対処する必要がありますが、これはシステムの全体的な成功にとって本質的に危険です。

機械学習と遺伝的多様性から学んだ教訓を吸収することで、経験を生かして、より多様な候補者が注目を集める求人に確実に参加できるようにすることができます。意見の多様性を促進し、次の世代のリーダーに特定のグループに対する偏見。これらの問題は簡単には解決できず、モデル全体を完全なエリート主義モデルに変換するには多大な努力が必要になります。

Leave a Reply

Your email address will not be published. Required fields are marked *