ワシントン — 人工知能について警鐘を鳴らすことは、ChatGPT 時代の人気のある娯楽になり、実業家のイーロン マスク、左派の知識人ノーム チョムスキー、99 歳の引退した政治家のヘンリー キッシンジャーなど、さまざまな著名人によって取り上げられました。
しかし、特に注目を集めているのは、AI 研究コミュニティの内部関係者の懸念です。 先駆的な研究者であり、いわゆる「AIのゴッドファーザー」 ジェフリー・ヒントン Google での役割を辞めたのは、自分が開発に携わったテクノロジーの危険性についてもっと自由に話せるようにするためです。
ヒントンの数十年にわたるキャリアの中で、深層学習とニューラル ネットワークに関する先駆的な研究は、今日目にする AI テクノロジの多くの基礎を築くのに役立ちました。
AIチャットボットの危険性のいくつかは「非常に恐ろしい」とヒントン BBCに語った. 「今のところ、私が知る限り、彼らは私たちよりも賢くはありません。 しかし、私は彼らがすぐにそうなるかもしれないと思います。」
とのインタビューで MITテクノロジーレビュー、ヒントンはまた、選挙を操作したり、暴力を扇動したりするなど、社会に有害な影響を与える可能性のある方法でAIを使用する可能性のある「悪役」を指摘しました.
75 歳のヒントンは、Google を退職したのは、テクノロジーの巨人で働いていない者として潜在的なリスクについて率直に話すことができるようにするためだと述べています。
「AI が Google のビジネスとどのように相互作用するかを心配することなく、AI の安全性の問題について話したい」と彼は MIT Technology Review に語った。 「Google からお金をもらっている限り、そんなことはできません。」
Google は、ヒントンがトロントの Google リサーチ チームを 10 年間監督した後、彼の役割を辞任したことを確認しました。
ヒントンは、AP からのコメントの要請にすぐには応じなかった。
AI の現状に関する議論の中心にあるのは、主要な危険が将来にあるのか、それとも現在にあるのかということです。 片側には、人間の知性に取って代わるコンピューターによって引き起こされる実存的リスクの仮説シナリオがあります。 もう 1 つは、すでに企業や政府によって広く導入されており、現実世界に害を及ぼす可能性がある自動化技術に関する懸念です。
「良くも悪くも、チャットボットの瞬間がもたらしたことは、AI を全国的な話題にし、AI の専門家や開発者だけでなく、国際的な話題にしたことです」と、2 月までホワイトハウス科学局とテクノロジー ポリシーと、AI ツールの責任ある使用に関するガイドライン作成への推進力。
「AI はもはや抽象的なものではありません。民主的な未来と、テクノロジーによる非搾取的な未来がどのようなものであってほしいかについて、新たな対話を行うために、この種のオープニングが開かれていると思います」と Nelson 氏は先月のインタビューで語った。 .
多くの AI 研究者は、AI システムにおける人種、性別、およびその他の形態の偏見について長い間懸念を表明してきました。これには、膨大な量の人間の文章で訓練され、社会に存在する差別を増幅する可能性があるテキストベースの大規模言語モデルが含まれます。
非営利団体 AI Now Institute のマネージング ディレクターである Sarah Myers West 氏は、次のように述べています。 「今日の AI システムによって引き起こされている害は、実際には均等に分散されているわけではありません。 それは既存の不平等のパターンを非常に悪化させています。」
ヒントンは、2019 年にチューリング賞を受賞した 3 人の AI パイオニアの 1 人でした。チューリング賞は、テクノロジー業界版のノーベル賞として知られるようになりました。 他の 2 人の受賞者である Yoshua Bengio と Yann LeCun も、AI の将来について懸念を表明しています。
アカデミックで AI のパイオニアである Bengio は、請願書に署名しました 3月下旬 テクノロジー企業に対し、強力な AI システムの開発を 6 か月間停止することに同意するよう求めている一方で、Facebook の親会社である Meta のトップ AI 科学者である LeCun 氏は、より楽観的なアプローチを取っています。
________
AP Technology Reporter Matt O’Brien が、マサチューセッツ州ケンブリッジから報告しました。
ポスト 「AI のゴッドファーザー」が Google を去り、テクノロジーの危険性を警告 最初に登場した AP通信.
.
