セキュリティスタートアップのProtectAI（プロテクトAI）の研究者たちは、数カ月にわたり、ハッカーがこうした「悪意のあるモデル」をハギングフェイスにアップロードしていると警告してきた。このサイトでは現在、100万以上のモデルがダウンロード可能な状態で公開されている。
「伝統的なトロイの木馬ウイルスが、AI時代に合わせて進化した」と、ProtectAIの創業者でCEOのイアン・スワンソンは述べている。シアトルを拠点とする同社は、今年初めにハギングフェイスのスキャンを開始した際に数万もの悪意のあるモデルを発見した。
スワンソンによると、これらの悪質なモデルを広めようとする者の中には、メタなどのハイテク大手の社員になりすましている者も居るという。ProtectAI がプラットフォームをスキャンした結果、フェイスブックやVisa、スペースXなどの企業になりすました偽アカウントが多数見つかった
その一例の遺伝子検査のスタートアップの23AndMeを装ったAIモデルは、発見される前に数千回ダウンロードされていた。スワンソンは、この偽のモデルをインストールすると、AWSのパスワードを密かに探し出し、クラウドのリソースを盗む可能性があったと警告している。この脅威を知らされたハギングフェイスは、すぐにそのモデルを削除した。
ハギングフェイスは現在、ProtectAIのツールをプラットフォームに統合し、悪意のあるコードのスキャン結果を表示できるようにしている。同社の共同創業者でCTOのジュリアン・ショーモンは、フォーブスへのメールで「我々の取り組みとProtectAIとの協力、そして今後多くのパートナーシップが、機械学習の成果物への信頼性を向上させることを望んでいる」と語った。
AIブームに目をつけたハッカーたち
ハギングフェイスを標的にするハッカーたちは、開発者がサイトからダウンロードするコードに不正な命令を注入し、そのモデルが実行される際にターゲットのデバイスを乗っ取ろうとする。「これは古典的な攻撃だが、誰もそのモデルが悪質なことをしているとは気づかず、追跡するのは非常に困難だ」とスワンソンは述べている。ハギングフェイスの評価額は、直近の2023年8月の調達ラウンドで2億3500万ドル（約358億円）を調達した際に45億ドル（約6867億円）とされた。共同創業者でCEOのクレマン・ドランジュらが設立した創業8年の同社は、当初はティーン向けのチャットボットを開発していたが、機械学習プラットフォームに事業モデルを転換して成功を収めた。同社は、これまでに累計4億ドル（約610億円）を調達している。
「以前は、AIは研究者のためのものと認識されており、セキュリティ対策はごく基本的なものだけだった。しかし、AIの人気が高まるにつれて、このコミュニティを標的にするサイバー犯罪者の数が増えてきた」と、ハギングフェイスのCTOのショーモンは語った。
（forbes.com 原文）
