国防総省の野心的な AI 計画はますます ChatGPT らしくなくなっていく – DNyuz

The Pentagon’s Ambitious AI Plans Look Less and Less Like ChatGPT

Open AI の ChatGPT とその同類は、今年の見出しを独占し、億万長者、ファン、規制当局、その他の人々を魅了しました。 運命論者。 しかし 最近の報道の多くは また、国防総省が AI に対してまったく異なるアプローチを追求している理由も明らかにしました。軍の指導者には信頼できるツールが必要です。

ChatGPT やその他の非常に大規模な言語モデルが人間の書き込みを模倣するのに非常に優れている大きな理由の 1 つは、それらが与えられている理由と同じです。 欺瞞: AI の中心となるニューラル ネットワークは、何百万もの Web サイトから情報を収集することで強化されています。 Open AI はツールのトレーニングにどの Web サイトを使用したかを明らかにしていないが、最近の ワシントンポスト 調査 研究者が同様のモデルをトレーニングするために使用した 1,500 万の Web サイトを調査しました。 当然のことながら、この大量のデータには真実ではない多くの情報が含まれており、膨大な言語や生成的な情報も含まれています。 AI モデルはよく嘘をつきます

たとえ慎重に選択した Web サイトのプールで大規模な言語モデルをトレーニングしたとしても、依然として次のような問題に遭遇する可能性があります。人工幻覚”: 「チャットボットなどの機械が、現実世界の入力に対応しない一見現実的な感覚体験を生成する現象。」

そのため、国防総省はそのようなツールの使用について非常に慎重になっています。

「現在のインスタンス化では ChatGPT を使用するつもりはありません。 しかし、大規模な言語モデルには多くの有用性があります」と国防総省の重要技術担当副最高技術責任者であるメイナード・ホリデイ氏は木曜日の講演で述べた。 ディフェンス ワン テック サミット。 「私たちは、データに基づいて、これらの大規模な言語モデル、生成 AI モデルを使用します。 したがって、それらは国防総省のデータに基づいて調整され、私たちのデータに基づいてトレーニングされ、さらに私たちのコンピューティング (クラウド上またはクラウド上にあるコンピューティング) 上でもトレーニングされることになります。 [premises] そのため、それは暗号化されており、基本的にはそのフィードバックを分析できるのです。」

ホリデイ氏は、今週、国防総省が「ユースケースが何なのかを把握するための集会を開催する」と述べた。 産業界と学術界における最先端とは何なのか。」

国防総省は、たとえ事故から 2 年が経過しても、データの構造化と共有についてさらに改善する必要がある。 影響力のある指令 この問題について、新興能力政策を率いるマイク・ホロウィッツ氏は述べた。 オフィスオフィス 政策担当の国防次官。

「AI を使用して答えたい質問に適用できるデータなど、優れたデータが必要です」とホロウィッツ氏は言います。 「データをクリーニングしてタグ付けする必要があり、そのプロセスには時間がかかります。 そしてそのプロセスは実際に行われました。 私は、…挑戦的だと思います。 そして、私たちは互いに独立するように設計されたこの種のデータのパイプをすべて構築しているため、それは困難でした。」

指揮官は、そのツールがどのように訓練され、どのようなデータに基づいて訓練されたのかを理解できなければ、そのツールを信頼しないだろうとホリデイ氏は語った。

「2015年に遡り、私が自律性に関する研究を行っていた国防科学委員会にいたとき、戦闘指揮官に報告したとき、彼らはこう言いました。『ご存知のように、これは素晴らしいことであり、状況を一変させる可能性がありますが、…我々はそうするつもりはありません』信頼できない限り使用してください。」と彼は言いました。

建物の信頼

ChatGPT を試してみて、特定の用途でどの程度信頼できるかを判断することは誰でもできますが、DODis はより正式な方法を採用しています。

「初期の信頼は、兵士のタッチポイントと基本的な心理的安全性を介した設計と開発の決定から得られ、統合と運用中にシステムによって提供される有効性の証拠とフィードバックを通じて継続的に調整された信頼が得られます。 そのため、戦闘員の信頼を測定することには課題があり、何がそれに影響を与えるかを定義するには追加の研究と理解が必要です」と彼は述べた。

実際には、これは CENTCOM が現在取り組んでいる演習の一部によく似ており、新興テクノロジーを中心とした幅広い一連のゲームや評価において、サービスや AI を横断してオペレーターを結集させています。

のような演習 スカーレット・ドラゴン・オアシス ファルコンオアシス 米国中央軍の最高技術責任者であるスカイラー・ムーア氏は、従来の軍事訓練ゲームとは構造が異なると述べた。 これらのテクノロジーに焦点を当てた新しいCENTCOM演習は立て続けに行われ、オペレーターのスキルを構築するだけでなく、兵士のフィードバックに基づいてテクノロジーを革新することを目的としているとムーア氏はテックサミットで述べた。 演習の一環としてオペレーターとビルダーが協力することも重要な要素です。

これらは、「多くの点でソフトウェア コミュニティや民間部門のベスト プラクティスに従うことを目的としています。つまり、これをスプリントで実行します。 時間をかけて改善するために、これらの演習を何度も繰り返して行います」と彼女は言いました。 「つまり、私たちが現在行っている演習では、ソフトウェア開発者とやり取りを繰り返して構築している筋肉の記憶があり、私に渡されたソフトウェアの機能が静的であるとは言いません…期待今では、そこに穴を開け、フィードバックを共有し、チームで反復し、毎回フィードバックを提供し続けることができますし、そうすることになります。率直に言って、これまでの演習では人々にその種のアクティビティを実験する機会です。」

AI、ロボット工学、クラウド コンピューティング、データ分析に関する CENTCOM アドバイザーのアンドリュー ムーア氏が Google から指揮を受け、以下のようなさまざまな AI 関連プロジェクトに取り組みました。 プロジェクト・メイブン、これは軍が将来どのように人間とAIのチームを開発するかについてのモデルとみなされています。

CENTCOM は、Maven の立ち上げにおいて重要な役割を果たしました。多くのアナリストが、地上のさまざまな人々がどのように行動し、どの人々が脅威となる可能性があるかを理解するために、何時間もかけてドローン データを精査する仕事をしていたからです。

ムーア氏によると、司令部はこの種の研究をさらに進め、AIエンジンがドローンで拾った物体をよりよく理解できるように取り組んでいるという。

「次の本当の問題は、地図上のこれらすべての点の間の関係を見つけて、実際に何が起こっているかを推測できるようにすることです」と彼は言いました。

数年後の CENTCOM 向けの画期的な AI アプリケーションは、派手でバグのあるテキスト ジェネレーターというよりは、むしろ ナレッジグラフ、ムーア氏は Google で取り組みました。 ナレッジ グラフは、データのプロパティとオブジェクト間の関係の大まかな概念に従って、急速に受信するデータを構造化するために機能します。 ソーシャル メディア Web サイトにアクセスして、つながりそうな人のおすすめが表示されるのは、部分的にはナレッジ グラフによるものです。

「ナレッジグラフは…私の意見では、米国西海岸に見られるような数兆ドル規模の企業を生み出しているものです。」と彼は言いました。

しかしムーア氏は、CENTCOMについては、より深いレベルで物体間の関係を理解するエンジンを構築し、敵が隠そうとしている、あるいは隠していない可能性のある方法で戦場とその中のすべての物体を照らす関係を指揮スタッフが確認できるようにすることを構想している。意識することさえあります。

「それが統一テーマの1つになると思います」と彼は言った。 「大量のデータを取り込めるだけでなく、実際に推論できる方法でデータを正規化できることが絶対的に重要です。そうすれば、おそらく、海上のこの船が奇妙な軌道をたどっているだけではなく、しかしまた…彼らの資金調達、あるいはおそらく彼らの所有権、あるいはその他の二次的、三次的、そのような本当に三要素的な情報も含まれます。」

ポスト 国防総省の野心的な AI 計画はますます ChatGPT らしくなくなっていく 最初に登場したのは ディフェンスワン

Loading...