偏りのあるデータをAIに学習させてしまうことで、公平性のない偏った結果を算出してしまうことである。

アルゴリズムのバイアスとして、人種、年齢、ジェンダーなどのバイアスがあげられる。機械学習は徐々に実社会で活用されつつあるが、アルゴリズムのバイアスは既に社会に影響を及ぼしている例が出てきており、新たな社会問題として捉えられている。有名な事例として、Amazonの採用で使用された履歴書のスクリーニングシステムでは、女性に不利益になることが明らかになった。また、Googleの画像認識アルゴリズムでは、黒人男性をゴリラとして分類されている問題が発生した。これらは技術的な進歩が生み出した新たな問題である。