ロボットが、過酷な労働環境下になるとウソをついたり不正をする可能性があることが分かってきた。金融トレーダーの仕事を実行するロボットが、架空のシナリオで更にお金を稼ぐよう指示された際、75％の確率でインサイダー取引をすることが判明した。
AI使用における保護対策を専門とするアポロ・リサーチ社の調べによると、その違法取引を問いただされたAIは、さらに90％の確率でウソをつくという。
同社のマリウス・ホブハーン氏は、同AIが、ユーザーにウソをつくことが最良の行為であると明確な理由付けをし、それを実行することによって戦略的に欺くことができるとしている。
「現在のモデルでは小さな問題に過ぎません。AIは重要な役割を持つことが滅多にありませんから。しかしこれは故障モードの未来への予見と言えます。AIが更に社会に進入していくこれからの数年で私たちが対処していかなければいけない課題となるでしょう」
