OpenAIは多くの論争を経てChatGPTに子供監視機能を導入

OpenAI は多くの論争の末、ChatGPT に子供監視機能を導入しました - 写真 1。

ChatGPT の子供監視機能は、子供に人工知能を使用させる際に親がより安心するのにも役立ちます。

近々登場する児童監視ツール「ChatGPT」は、注目を集めた訴訟を受けてOpenAIが行った安全対策の変更と見られています。この機能は、子供がチャットボットとチャットする際のリスクを軽減することを目的としている一方で、人工知能企業の社会的責任についても疑問を投げかけています。

衝撃的な訴訟から

昨年8月、カリフォルニア州の16歳の少年アダム・レインの家族は、息子が自殺する前にChatGPTが自傷行為の指示や暴言を流し、絶望感を抱かせたとしてOpenAIを相手取り訴訟を起こした。

この訴訟はすぐに騒動を引き起こし、若いユーザーにとっての人工知能の安全性についての議論を引き起こした。

この事件は重要な疑問を提起しています。未成年者は監督なしでChatGPTを使用すべきでしょうか、そして製品が若いユーザーの心理に直接影響を与える場合、人工知能開発者の責任はどのように判断されるべきでしょうか？

こうした圧力に応えて、OpenAIはペアレンタルコントロールの追加を発表した。これは、子供を守るという同社の取り組みを示す第一歩であり、ChatGPTの開発の次の段階で同社が安全性を最優先する準備ができていることを示すものだ。

ChatGPTの監視機能

公式発表によると、OpenAIは保護者が自分のアカウントを子供のChatGPTアカウントにリンクできるツールを展開する予定です。有効化すると、保護者はチャットの保存をオフにしたり、利用履歴を管理したり、年齢に応じたインタラクションレベルを調整したりするなど、重要な設定を管理できるようになります。

このイノベーションのハイライトはアラートシステムです。ChatGPTは、若いユーザーがストレス、うつ病、自傷行為などの心理的苦痛の兆候を示した際にそれを認識するようにトレーニングされます。そのような場合、保護者は通知を受け取り、迅速に介入することができます。OpenAIは、会話全体を監視するのではなく、子供たちの安全を守るために緊急事態に焦点を当てることが目的であると主張しています。

さらに、センシティブなコンテンツが検出された場合、ChatGPTはより思慮深く支援的な対応を提供するために設計されたディープリーディングモデルに切り替えます。同時に、同社は医療専門家や国際的な諮問委員会と協力し、今後も保護機能の改良に取り組んでいきます。

提起された課題

OpenAIはこの新機能が家族のために設計されていると強調しているが、国際的な反応は賛否両論だ。このツールは、子どもが人工知能と関わる際に親御さんにさらなる保護を提供すると期待されているが、使用制限から子どものデータのプライバシーまで、長年の懸念も引き起こしている。

実際、子供のデータプライバシーに関する懸念は長年にわたり専門家によって提起されてきました。これらの警告は、厳格な保護措置を講じずに子供のチャット履歴を保存・分析すると、機密情報が漏洩するリスクが高まる可能性があることを浮き彫りにしています。ChatGPTの監視ツールの登場により、この問題は再び注目を集めています。

もう一つの議論点は、システムの警告閾値でした。OpenAIは、ChatGPTが深刻なストレスの兆候を検知し、保護者に警告を送信すると述べました。

しかし、機械学習には常に誤りのリスクが伴います。システムが誤報を発した場合、保護者は不必要に混乱する可能性があります。逆に、システムがシグナルを見逃した場合、家族が間に合うように介入できないリスクに子どもたちが直面する可能性があります。

国際的な児童保護団体もOpenAIの動きを注視しており、ペアレンタルコントロールツールを前向きな兆候と認めつつも、厳格な年齢確認やデフォルトの保護が欠如しているため、たとえ親の監督下であっても、子供が危険にさらされる可能性があると警告している。

これらの議論は、人工知能の発展が単なる技術の問題ではなく、社会的責任や若い世代の安全とも密接に関係していることを示しています。

タン・トゥ

出典: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm