Replicate以外にも、オープンソースモデルを実行するための計算資源を提供するスタートアップは存在する。最近シリーズAラウンドで1億250万ドルを調達した「Together AI」や、評価額45億ドルの「Hugging Face」、評価額8億5000万ドルの「OctoML」など高い評価を得ているスタートアップに加え、エヌビディアやグーグル、アマゾン、マイクロソフトのような巨大テック企業も、クラウド上で機械学習モデルを実行したり、カスタマイズできる製品を提供している。
課題は「安全上のリスク」
一方で、オープンソースモデルは、ソーシャルエンジニアリングや生物兵器の作成といった悪意ある目的に使用される可能性があるとして、安全上のリスクを懸念する声もあがっている。しかし、オープンソースの擁護者たちは、モデルコードの透明性が確保されていることで監視が厳しくなり、モデルがより安全なものになると主張している。Replicateは、この問題に対処するために、有害なコンテンツを生成するモデルを検出して制限するフィルターを設けている。しかし、フィルターは安全なコンテンツに誤って危険フラグを立てることがあるため、無効にすることができる。それでも、オープンソースモデルに対する需要が増加していることは、Replicateの利用者数を見れば明らかだ。同社のプラットフォームでは、音楽や動画、テキスト、画像を生成・編集できるモデルが提供されているが、ぼやけた古い写真を鮮明な画像に変換できる「顔復元AIモデル」は、これまでに約6000万回利用されている。また、2秒以内に顔を別の顔に替えることができるAIモデルは、約3000万回利用されている。
