OpenAIが、ティーンエイジャーのChatGPT利用に向けた新たな安全対策を導入する。チャットボットが「人間の話し相手」のように感じられにくくする機能も含まれる。
新設されるティーン向けアカウントでは、音声モードを無効化できるほか、長時間の利用に対して休憩を促す通知の頻度も強化される。OpenAIによると、こうした通知は、ChatGPTがAIシステムであることや、いつでも離れてよいことを利用者に思い出させる狙いがあるという。
一連の変更は、13歳から17歳向けに異なる利用体験を構築する、より広範な取り組みの一環。OpenAIは、ティーン向けアカウントには、若者の発達段階を踏まえ、現実世界での人間関係を支え、AIとのより健全な付き合い方を促す保護機能が必要だとしている。
同社はまた、利用パターンやアカウントの作成時期、利用の多い時間帯といった兆候をもとに、利用者が18歳未満かどうかを推定する年齢予測技術も開発中だ。システムがティーンのアカウントと判断した場合、追加の保護機能が自動的に適用される。
OpenAIはこのほか、音声モードの無効化、利用制限時間帯の設定、画像生成の制限などを行える保護者向けコントロール機能も導入した。保護者は、システムが深刻な精神的苦痛の兆候を検知した限定的な状況では通知を受け取れるが、子供とのやり取りを日常的に閲覧することはできない。
今回の動きは、対話能力が高まり続けるAIシステムが、利用者とチャットボットとの不健全な関係形成を助長しかねないとの議論が広がる中でのものだ。
