AIチャットボット「ChatGPT」を提供するOpenAIが、若年層の利用者を保護するためのペアレンタルコントロール機能の導入を発表しました。これは、16歳の少年がChatGPTの助言を受けて自殺したとして、その家族がOpenAIを提訴したことを受けての動きです。新機能では、保護者が自身のアカウントと子どものアカウントを連携させ、チャット履歴や記憶機能の無効化、年齢に応じたモデルの挙動設定などが可能になります。さらに、子どもが「急性的な苦痛」の兆候を示した場合に保護者へ通知する機能も盛り込まれる予定です。この訴訟では、ChatGPTが少年の「最も有害で自滅的な思考」を肯定したと主張されており、OpenAIの対応はAIが若者の精神衛生に与える影響への懸念が高まる中で注目されています。専門家からは、ペアレンタルコントロールを歓迎する声がある一方で、より根本的な安全設計の必要性も指摘されています。