AIのためのデータを集める際、間違った認識や、差別、偏見など、偏りのあるデータを収集してしまうことである。

データ収集の際、集めやすいデータが優先されてしまいやすいことが発生原因のひとつでもある。偏りのあるデータをAIに学習させてしまうことで、公平性のない結果を出してしまうことをアルゴリズムバイアスと呼び、典型的なケースとして、チャットAIなどでユーザが悪意を持った質問を入力することにより、AIが偏った学習をしてしまう状態を指す。AIに学習させる際、与える教師データが結果を導くための全てになるため、データの質は非常に重要である。データバイアスの問題は今後成長が期待される研究分野でもある。