高性能AIの意外な弱点！『読み書き』原因とは。

人工知能(AI)は、SATで高得点を取ったり、チェスの名人に勝ったり、コードのデバッグをしたりと目覚ましい進歩を遂げています。
しかし、画像生成AIや言語モデルは、英語（日本語含む）のスペリング(綴り)が苦手なのです。

その理由は、AIが実際にテキストを読んでいるわけではないからです。

画像生成AIは、ディフュージョンモデルを使って画像をノイズから再構成しています。大規模言語モデルは複雑な数学を使ってプロンプトのパターンを潜在空間のパターンとマッチングさせています。

つまり、AIはスペルの規則を本質的に理解していないのです。

アルバータ大学のAI研究者で助教授のマシュー・グズディアル氏「（AIは）単語『the』を見たとき、『the』が何を意味するかは理解しますが、『T』、『H』、『E』については知りません。」

AIの専門家によると、画像生成モデルは車や顔などの大きなものを再現するのは得意ですが、指や手書き文字などの小さなものは苦手だそうです。

よく観察すれば、AI が間違えるのは指や綴りだけではなく、常に細かな間違いをしていることがわかります。
例えば、一般の人にとってAIが生成した楽器店の画像は簡単に信じられるものです。

しかし、音楽に少し詳しい人なら、同じ画像を見て、一部のギターの弦の数やピアノの鍵盤の間違いに気づくでしょう。

AIの能力には限界があり、過剰な誇大宣伝には注意が必要だと指摘されています。