人工知能(AI)、データサイエンス、ビッグデータ、確率・統計学などのブログ記事を通して、最新情報を伝えます。

始めよう!人工知能(AI)

記事

【記事】【日経】人工知能の光と影(上)日米欧、倫理問題 対応急ぐ

投稿日:2016-09-06 更新日:

人工知能の光と影(上)日米欧、倫理問題 対応急ぐ 
様々な可能性 視野に議論 西田豊明・京都大学教授

 人工知能(AI)は「第4次産業革命」といわれる革新的な社会サービス基盤をけん引する原動力として脚光を浴びている。その半面、AIの負の側面としてこれまで様々な懸念が表明されてきた。そのいくつかを紹介しよう。

元記事はこちら。

Ai20160906 01

 第1に、AIの安全性と制御可能性の問題だ。現在のAI技術の中心となる大量のデータからの統計学習手法が、多様で予測困難な現実世界のあらゆる状況で適切に動作するという保証はまだ得られていない。

 またAIが暴走して、人間の管理能力を超えた事態を引き起こすのではないかとの不安を払拭できない。自動運転車、オートパイロット搭載車の事故が続くなど、AIが安全面で未完成であることを示唆する兆候も表れている。

 第2に、AIによる日常生活のリスク増加の問題だ。情報収集のための圧倒的な質・量のセンサーネットワークとAI技術を用いたデータの自動解析技術の広がりにより、プライバシーやセキュリティーなど日常社会生活に不可欠な権利保護が破綻するのではないかという不安がある。

 物質・エネルギーによりわれわれの住む物理世界に作用する従来技術と異なり、AIは情報を通じて人間自身の心的世界に作用する。このため客観的にとらえたり、人間社会から切り離して実験したりすることを困難にしている。

 第3に、AIによる失業の問題だ。これまで人間が手掛けてきた高度に専門的な仕事の多くをAI技術で、より高品質に、高速に、低価格に実現できるので、大規模な失業が生じるのではないかとの懸念が広く表明されている。

 第4に、自律兵器の開発の問題だ。AI技術を使って、道徳的責任能力のある人間の介入なしに自律的に攻撃目標を定め、人々を殺傷に至らしめてしまう兵器が開発されるのではないかという懸念がある。情報化社会では、インターネットからAIツールを入手して、手元のコンピューターで簡単に実行できるので、こうした自律兵器の開発を防ぐのは非常に困難である。

 第5に、AIによる人間社会の衰退の問題だ。AIの進展により、人類が培ってきた人間力や社会力が衰退するのではないかという恐れも表明されている。

 こうした懸念は、具体的な事故や惨事に起因する問題意識というよりも、現在起きつつある急速な変化を示す種々の兆候から生じた不安という色彩が濃い。

-記事
-

Copyright© 始めよう!人工知能(AI) , 2024 All Rights Reserved Powered by AFFINGER5.