短いテキストを入力すれば、すぐに非常に効果の優(yōu)れた60秒の動(dòng)畫(huà)が完成する。米オープンAI社がこのたび打ち出した動(dòng)畫(huà)生成AI（人工知能）モデル「Sora」に世界が驚愕している。

オープンAIはチャットGPTを発表してからわずか1年余りで、再び重量級(jí)の新モデルを打ち出した。テキストだけで動(dòng)畫(huà)を生成するこのAIモデル「Sora」の素晴らしい點(diǎn)は何か。業(yè)界にもたらす影響とは。潛在的なリスクは何か。

オープンAIの公式サイトのスクリーンショット。

「Sora」には何ができる？

「Sora」が生成した複數(shù)のショート動(dòng)畫(huà)の「大作」が、インターネットで次々に再生されている。動(dòng)畫(huà)內(nèi)のシーンはリアルかつ自然で、細(xì)かい部分までよく作り込まれている。

オープンAIがAI動(dòng)畫(huà)生成の分野に進(jìn)出したのは今回が初めてだ。同社によると、「Sora」は深層學(xué)習(xí)モデル「トランスフォーマーアーキテクチャ」を使用し、テキストの指示に従ってリアルで想像力に富んだシーンを作り出し、様々なスタイル、畫(huà)幅で、最長(zhǎng)1分間の高精細(xì)動(dòng)畫(huà)を生成してくれる。

同社は、現(xiàn)時(shí)點(diǎn)で「Sora」が生成した動(dòng)畫(huà)には、論理的におかしな畫(huà)像や、左右が逆といった空間の細(xì)部の混同、複雑なシーンの物理的原理や因果関係の実例を正確にシミュレーションできない狀況が起きる可能性があることを認(rèn)めている。たとえば、人がビスケットを食べているのに、ビスケットに歯型が付いていない動(dòng)畫(huà)が生成されてしまうといったケースだ。ただ、計(jì)算力が増強(qiáng)され、モデルの改良が進(jìn)めば、短期間でより優(yōu)れた先進(jìn)的な動(dòng)畫(huà)生成機(jī)能を手に入れることができるとしている。

仕事を奪われるのは誰(shuí)か？

一部のアナリストは、「『Sora』はAI技術(shù)の進(jìn)歩が現(xiàn)実の世界と従來(lái)型業(yè)界に大きな影響を與えることを改めて浮き彫りにした。AIの動(dòng)畫(huà)生成分野における極めて大きな発展の可能性は、映畫(huà)?テレビ産業(yè)の新業(yè)態(tài)の創(chuàng)出に向けて大きく扉を開(kāi)くと同時(shí)に、既存の映畫(huà)?テレビ産業(yè)を破壊するおそれもある」との見(jiàn)方を示す。

「Sora」が生成した動(dòng)畫(huà)のスクリーンショット。

「Sora」の発表翌日、畫(huà)像処理や動(dòng)畫(huà)制作ソフトを主に手がけるアドビ社の株価はそれに応じて7％以上下落した。

ハリウッドでは昨年、63年ぶりとなる腳本家と俳優(yōu)によるストライキが行われた。同業(yè)界の仕事の一部がAIによって奪われるのではないかとの懸念がストの原因だった?！窼ora」の登場(chǎng)で脅威はより差し迫った、現(xiàn)実的なものになっている。

「動(dòng)畫(huà)があれば真実」は過(guò)去のものに

「Sora」の発表は、フェイク情報(bào)やフェイクニュースがアップグレードし続けていることも意味する。ショート動(dòng)畫(huà)プラットフォームから情報(bào)を得ることに慣れたネットユーザーは、これからは動(dòng)畫(huà)を気軽に信じられなくなる。

英國(guó)のブレッチリー?パークで、第1回AIセーフティサミットの宣伝パネルの前を通り過(guò)ぎる人（2023年11月2日撮影?李穎）。

現(xiàn)在のところ、映畫(huà)?テレビなど娯楽コンテンツ制作分野における「Sora」の応用に多くの人が注目しているが、実際には、「Sora」はニュースの制作方法とプロセスを変えることもできる。今や、技術(shù)を利用してねつ造されるフェイクニュースが次から次へと現(xiàn)れ、人々のニュースに対する従來(lái)の観念を変えてしまった。畫(huà)像とテキストの時(shí)代には、「畫(huà)像があれば真実」と考えられていたが、実は畫(huà)像も加工可能だった。動(dòng)畫(huà)の時(shí)代には、多くの人が「動(dòng)畫(huà)があれば真実」と思っていたが、內(nèi)容をすり替えるなどねつ造の手段が登場(chǎng)した。そして今、「Sora」が登場(chǎng)し、AIで動(dòng)畫(huà)を直接生成することができるようになり、オリジナルの素材さえ不要になった。

この動(dòng)きを受けて、中央民族大學(xué)新聞?伝播學(xué)院の郭全中教授は、「『Sora』の登場(chǎng)で動(dòng)畫(huà)作成のハードルが大きく下がり、報(bào)道倫理が大きな打撃を被ることになるだろう」との懸念を示す。

上海合合情報(bào)科技股份有限公司の郭豊俊?畫(huà)像アルゴリズム研究開(kāi)発総監(jiān)も、「AI技術(shù)の発展にともなって、ディープフェイクがもたらすガバナンスの危機(jī)がより顕在化するだろう」と指摘する。

「魔法で魔法を打ち負(fù)かす」

それではディープフェイクをより正確に見(jiàn)分けるにはどんな方法があるだろうか。多くの業(yè)界関係者が、「AIによってAIを見(jiàn)分ける」ことを「魔法で魔法を打ち負(fù)かす」と例え、技術(shù)的手段を通じてディープフェイクを根本的なところで識(shí)別し、関連のリスクを低下させるチャンスはあるとの見(jiàn)方を示す。

オープンAIによると、現(xiàn)在、関連の研究を進(jìn)めており、これには誤った?jī)?nèi)容を含んだテキストや畫(huà)像を識(shí)別する裝置が含まれる。オープンAIの製品のうち、このテキスト識(shí)別裝置は法律に違反したテキスト入力をチェック?拒否するもので、極端な暴力、性的な內(nèi)容、ヘイト、有名人の畫(huà)像、他人のIPなどが対象で、注意も喚起する。當(dāng)社は有力な畫(huà)像識(shí)別裝置も開(kāi)発しており、生成された動(dòng)畫(huà)のフレームを全てチェックして、ユーザーが見(jiàn)る前に、動(dòng)畫(huà)が當(dāng)社の利用方針に合致するものになるように保証しているという。

前出の郭氏は、「中國(guó)內(nèi)外の多くの企業(yè)がAIによる改ざんの識(shí)別に注目しており、その中には、中國(guó)電信（チャイナ?テレコム）などの中央企業(yè)（中央政府直屬の國(guó)有企業(yè)）、瑞萊智慧（RealAI）、中科睿鑑科技などの大學(xué)?短大?高専と科學(xué)研究機(jī)関がインキュベートしたテクノロジー企業(yè)、網(wǎng)易や合合などの長(zhǎng)年にわたりAI業(yè)界に深く関わってきたテクノロジー企業(yè)といった多くの中國(guó)企業(yè)が含まれる。全體的に言えば、中國(guó)の科學(xué)研究チームがディープフェイクの識(shí)別で上げた成果は世界トップレベルにあり、複數(shù)の國(guó)內(nèi)の研究チームが世界的に有名なねつ造を見(jiàn)抜く技術(shù)を競(jìng)うコンテストで優(yōu)れた成績(jī)を収めている」と説明する。

しかし業(yè)界関係者は、「『魔法で魔法を打ち負(fù)かす』のはやはり責(zé)任の重い遠(yuǎn)い道のりだ。ディープランニングやコンピュータビジョンなどの分野の技術(shù)のたゆまぬ進(jìn)歩につれ、ねつ造識(shí)別技術(shù)も絶えず高度化して応用シーンを広げなくてはならない。この過(guò)程では、より多くの企業(yè)やSNSプラットフォームが參加し、『社會(huì)的利益のための技術(shù)』になるよう共に努力することが必要だ」と指摘する。（編集KS）

「人民網(wǎng)日本語(yǔ)版」2024年2月23日