AIによる偽情報を見抜く―NIST GenAI（アメリカ商務省機関）の新たな取り組み

AI技術が進化し、偽の情報が増える中、米国標準技術研究所(NIST)が「NIST GenAI」という新しいプログラムを立ち上げました。このプログラムは、AIが作り出したテキストや画像を評価し、本物かどうかを見分けるための基準を設けることを目的としています。

NIST GenAIは、AIによって生成されたコンテンツが本物か偽物かを判断するシステムの開発を支援し、誤情報の源を特定する技術の発展を促します。このプログラムは、AI技術の能力と限界を測定し、デジタルコンテンツの安全で責任ある使用を指導するための評価を行う予定です。

最初のプロジェクトは、人間が作成したコンテンツとAIが生成したコンテンツを区別するシステムの開発です。NIST GenAIは、コンテンツを生成するAIシステムと、それを識別するシステムの両方を募集しています。

ジェネレーターは、与えられたトピックに基づいて250語以下の要約を作成する必要があり、ディスクリミネーターはその要約がAIによって書かれたものかどうかを判断する役割を果たします。公平性を確保するため、NIST GenAIはジェネレーターのテストに必要なデータを提供します。法律や規制に違反するシステムは受け入れられません。

登録は5月1日から始まり、最初の評価は8月2日に締め切られます。最終結果は2025年2月に発表される予定です。

AIによる誤情報やデマが急増する中、NIST GenAIの取り組みは、オンラインでのディープフェイクの拡散に対する懸念を背景に行われています。調査によると、多くのアメリカ人がディープフェイクによる誤解を招く情報の広がりに懸念を示しています。

NIST GenAIの立ち上げは、AI企業により透明性を求め、AIに関する新しい基準を設ける大統領の命令に対するNISTの応答の一環です。