advertisement
アマゾンは、従業員向けの生成型AIチャットボット「Q」と、AI画像ジェネレータのプレビューを行っているが、これらのツールを公開する計画や、より高度な動画ジェネレーターを開発中であるかどうかについては公表していない。
Soraはまだ一般公開されておらず、OpenAIはいつ公開するかを明示していない。同社は「SoraをOpenAIの製品で利用可能にする前に、いくつかの重要な安全対策を講じる」と述べており、偽情報、憎悪的なコンテンツ、バイアスなどの分野の専門家と協力してモデルをテストしていることを付け加えている。
OpenAIの動画生成ツールがどのように悪用され得るかに対する懸念は、この分野に関わるほぼすべての企業の間に波紋を広げている。現実的で説得力のあるコンテンツを作成する能力は、危険な偽情報や、実在する人物に似せた偽のポルノコンテンツ、虐待的なコンテンツ、政治家や企業からの煽動的な発表などの有害な素材の拡散に使われる可能性がある。
advertisement
これまで、フェイスブックやX（旧ツイッター）のような大手ソーシャルメディア企業が、プラットフォーム上の膨大な量の偽情報や憎悪表現に十分に対処していないと非難されてきた。そして技術の進歩にともない、専門家はリスクは高まるばかりだと警告している。特に米大統領選挙の年においては、リスクは特に高く、以前よりも偽情報を排除するために企業は厳しく監視されている。動画ジェネレータの進歩により、偽の動画コンテンツの作成は簡単になり、そのコンテンツの信憑性はより高くなり、検出はより困難になる。「共和党のロン・デサンティスを熱烈に支持しているヒラリー・クリントン」や「徴兵を発表しているジョー・バイデン大統領」そして「逮捕され、警察に追われているドナルド・トランプ前大統領の偽のシーンや画像」がすでに登場している。
Stability AIの創業者でCEOのエマド・モスタクはXで、Soraによって生成された魔法使いをテーマにした動画を投稿したアルトマンに対して「君は魔法使いだ、sama」（「sama」はOpenAI CEOサム・アルトマンのXハンドル名）と投稿している。
Soraは一般には公開されていないが、アルトマンはSoraのテキスト・トゥ・ビデオ機能を披露するため、テキストプロンプトを提案するよう人々に呼びかけた。寄せられたプロンプトで制作された動画には、海面を自転車で走る（脚のある）イルカやカメなどのさまざまな海の生き物の動画、トスカーナのキッチンでおばあちゃんが説明役を務めるニョッキの解説動画、火星での未来的なドローンレース動画、冒険家のハムスターを背に乗せて空を飛ぶアヒルとドラゴンのキメラなどがある（例1、例2）。
（forbes.com 原文）
