データ補正機能やノイズ除去機能の功と罪

AI(Artificial Intelligence、人工知能)の有効性が語られるようになってから結構な期間が経過したように思います。
その有効性は目を見張るものがあり、実に多くの分野で実用化が進んでいます。
こんな感じで使われています。

  • 音声アシスタント機能
  • エアコンの対象物検出や調整機能
  • お掃除ロボットの部屋状況検出機能
  • 自動車の自動運転機能や自動駐車機能
  • 医療機関での患部検出機能

さらには、AIで対象を認識して追尾してくるドローンなんてのもあります。
正しく適用できた場合の効能は大きなものがあるといえそうです。

一方で、AIによる機能とそれを解釈する人との組み合わせによって、誤った推測結果を導いてしまった例もあります。

ある街中で銃撃事件が発生し、人命が失われました。
そのとき街の中で撮影された監視カメラの映像をAIが解釈し、その結果が証拠として犯罪の検挙に使用されました。
使われたAIの機能は、監視映像を使い三角測量によって銃撃があった際にその位置を検出する機能でした。
そのときその機能で導き出された情報は、裏付け情報を精査されることなく裁判の証拠となり、犯人と推定された人物は有罪となりました。
そして彼はその後の1年を刑務所で過ごすこととなりました。
しかしそののちに判明した事実では、犯人とされたその彼は銃撃の犯人ではなかったのです。

AIの提供するデータ補正機能やノイズ除去機能とそれを解釈する人の誤認との組み合わせによって、あってはならない間違った結果を導いてしまったといえるかもしれません。

新しいテクノロジーはどんどん生み出されてきます。
そしてそれらは新しい体験を生み出してくれます。
しかし、私たちは、テクノロジーを過信することなく、冷静に判断し活用していく必要があると認識すべきなのかもしれません。

参考記事(外部リンク):Man spent almost a year in jail due to erroneous AI-based
evidence

www.hackers-review.net/2021/08/man-spent-almost-year-in-jail-due-to.html

一緒によく読まれている記事

最新の脅威情報
をお届け

BLOGブログ

情報セキュリティに対する啓蒙のため、
3つのメディアを運用し、
情報発信を行っています。

わたしたちはサイバー領域や
認知領域の未知なる脅威に、
テクノロジーとインテリジェンスで対抗します。

私たちが選ばれる理由

CONTACT リスクマネジメントサービスの
ご相談窓口

コンステラ セキュリティ ジャパンは
最先端のサービスを
お客様のニーズに
カスタマイズして提供し、
効果が出るまで寄り添います。