ハーバード大学で「機械学習の限界」を研究していたヤロン・シンガー氏と、その研究室生だった大柴行人氏が、2019年に研究成果をベースに共同創業した「Robust Intelligence（ロバスト・インテリジェンス）」。
同社はAIの検査サービスを手がけている。企業がAIを開発する際に数百種類のテストを行い、精度劣化の可能性はないか、人種や性別による差別的な結果を招かないかなどを検証する。米国の国防省をはじめ、Expedia、楽天グループ、東京海上ホールディングス、セブン銀行、NTTデータ、NECなどが導入をしている。
また5月30日からは、「生成AI」のリスク評価サービスを開始した。生成AIの実装を目指す企業に向け、ネックとなる「リスク対策」を一手に引き受ける。有害情報の出力を防止し、セキュリティ上の脆弱性の検知や修復を行う。さらに 、AIモデルが国内外の規制やガイドラインに準拠していることを第三者の目線から確認することも可能だ。
共同創業者の大柴氏は、国際的に急務となっているAIのルール作りにも力を入れている。今年3月には、自民党のAIプロジェクトチームで「AIガバナンスの考え方」についての講演を行った。
