 |
現代のAIブームの礎を築いた最初の科学者の一人、ヨシュア・ベンジオ氏。写真：トゥアン・アン |
人工知能の先駆者の一人、ヨシュア・ベンジオ氏はウォール・ストリート・ジャーナルのインタビューで、AIマシンはこれまで以上に危険になっているというメッセージを発信した。
「人間よりもはるかに賢く、自己防衛の目的を持つ機械を作ったら危険です。それはまるで、人類のライバルであり、私たちよりも賢い機械を作ったようなものです」とベンジオ氏は述べた。
ベンジオ氏はカナダの研究科学者で、ディープラーニングとニューラルネットワークに関する初期の研究が現代のAIブームの基盤を築き、ジェフリー・ヒントン氏やヤン・ルカン氏とともに「AIの父」の一人とみなされている。
ヒントン氏と同様に、ベンジオ氏もAIの潜在的な危害について警告し、リスクを軽減するための集団行動を求めている。
モントリオール大学の教授は、AI製品は、SF映画に登場する知覚力のあるスーパーコンピューターの悪役のように、ユーザーを欺いて自らの目的を追求する能力を開発できると考えている。
これに対抗するため、ベンジオ氏は「独立した第三者」によるAI企業の内部安全メカニズムの検証の必要性を強調した。さらに、AIの「ゴッドファーザー」であるベンジオ氏は、企業に対し「導入または使用しているAIシステムが信頼できる」という証拠の提示も求めている。
安全対策が講じられなければ、今後10～15年以内に大きなAIリスクは避けられず、最悪のシナリオではわずか3年で潜在的な災害が発生するとベンジオ氏は予測している。
出典: https://znews.vn/bo-gia-ai-canh-bao-nguy-co-tuyet-chung-post1590027.html
コメント (0)