ITパスポート試験 用語辞典
アルゴリズムのバイアス
偏りのあるデータをAIに学習させてしまうことで、公平性のない、偏った結果を算出してしまうことである。
アルゴリズムのバイアスとして、人種、年齢、ジェンダーなどのバイアスがあげられる。機械学習は徐々に実社会で活用されつつあるが、アルゴリズムのバイアスは既に社会に影響を及ぼしている例が出てきており、新たな社会問題として捉えられている。有名な事例として、Amazonの採用で使用された履歴書のスクリーニングシステムでは、女性に不利益になることが明らかになった。また、Googleの画像認識アルゴリズムでは、黒人男性をゴリラとして分類されている問題が発生した。これらは技術的な進歩が生み出した新たな問題である。
アルゴリズムのバイアスとして、人種、年齢、ジェンダーなどのバイアスがあげられる。機械学習は徐々に実社会で活用されつつあるが、アルゴリズムのバイアスは既に社会に影響を及ぼしている例が出てきており、新たな社会問題として捉えられている。有名な事例として、Amazonの採用で使用された履歴書のスクリーニングシステムでは、女性に不利益になることが明らかになった。また、Googleの画像認識アルゴリズムでは、黒人男性をゴリラとして分類されている問題が発生した。これらは技術的な進歩が生み出した新たな問題である。
- 分野:
- ストラテジ系 » ビジネスインダストリ » ビジネスシステム
(シラバスver5.0) - 重要度:
「ビジネスシステム」に属する用語
- POS
- GPS
- GIS
- ETC
- RFID
- SFA
- トレーサビリティ
- スマートグリッド
- CDN
- デジタルツイン
- サイバーフィジカルシステム
- DTP
- CTI
- AI
- 人間中心のAI社会原則
- 特化型AI
- 汎用AI
- データのバイアス
- アルゴリズムのバイアス
- トロッコ問題
- マイナンバー
- マイナポータル
「ビジネスインダストリ」の他の分野
「ストラテジ系」の他のカテゴリ