AIと付き合うための注意

消費者庁がAI製品の利用に対し注意点をまとめったハンドブックを作成しました。トラブル例として、音声の誤認識で家電の誤操作や頼んでいない商品を勝手に注文したり、AI掃除機が爆走(笑)して家具の破損をさせたり、など。ちょっと気持ち悪いのは、スマートスピーカーは人々の会話を認識するので、学習しそれこそ爆走した場合。名作「2001年宇宙の旅」はもう十数回も観るほど大好きな映画ですが、この中でコンピューターHALは、宇宙飛行士の会話を聞き、それに気づいた飛行士は音を聞こえないようにするのですが、HALは唇の動きから読むのです。そして大暴走。50年以上前のSF作品ですが、現実的な世の中になったのですね。介護施設でもAI導入が進むでしょう。でもそこで暴走があれば?人間が便利に「使う」のはいいですが、「使われる」状況や完全に依存してしまうのは、やはり怖いですね。