しかし、これらのツールは、すでに論争に直面している。その多くは、著作権者の同意なしにインターネット上の何十億もの画像を処理することでトレーニングされており、倫理や合法性をめぐる議論を引き起こした。先週は、コロラド州の美術コンクールでAIが生成した作品が最優秀賞を受賞したことで、ネット上で険悪な論争が勃発した。
現時点ではポルノ画像も制限無し
DALL-EやMidjourneyには、グロ画像やポルノ画像の生成を防ぐための制限が設けられている。しかし、Stable Diffusionはオープンソースであるため、ユーザーはそうしたブロックを回避することができる。掲示板の4chanでは、AIが生成した有名人のヌードのディープフェイクを掲載したスレッドが数多く立ち、Redditでは、Stable Diffusionを使って作られた不適切なAI画像の投稿に特化したコミュニティが、少なくとも4つ禁止された。
Stability AIは、ユーザーにコードへの完全なアクセスを提供するオープンソースのアプローチをとっているが、これは「AIへのアクセスを民主化する」というOpenAIの理念を反映したミッションと言える。
2015年に設立のOpenAIは、サム・アルトマンやイーロン・マスクらが参加する非営利の研究組織として発足したが、2019年にマイクロソフトから10億ドルの出資を受けると、営利事業となった。それ以降は商業化に注力するようになり、AIコミュニティやマスク自身からも批判を浴びることになった。
Stability AIは営利企業であり、これはオープンソースの研究がより多くの人に届くようにするためだとモスタクは述べている。先月のTechCrunchのインタビューで彼は、同社が完全に独立していると語っていた。「当社の議決権を持つのは75人の社員だけで、ビリオネアやファンド、政府、その他の企業には一切の権限が無い」とモスタクは述べていた。
10億ドルという評価額であれば、モスタクは最大で10％の株式を新たな出資者に譲渡することも考えられる。新興企業に大きな出資をする投資家は通常、取締役になることを求め、会社の意思決定に影響を与えようとするからだ。100億ドルの資産を運用するLightspeedや、730億ドルを運用するCoatueが、Stability AIの経営に影響を及ぼすことになるかどうかは不明だ。
（forbes.com 原文）
