誤情報の出力や、情報漏えいなどのリスクから、生成AIのビジネスでの活用に二の足を踏む企業も多い。AIのネガティブ要因を取り除き、企業成長の起爆剤にするには「AIセーフティ」の考え方が必要だ。
生成AIの技術革新が加速する一方で、企業における活用は思ったよりも進んでいない。2025年8月に公表された東京商工リサーチの調査結果によれば、生成AIの導入は大企業でも半数程度にとどまり、中小企業は25％程度となっている。
「外部の分析では、OpenAIの収益は個人向けサブスクリプションが半数を占めているとされ、企業向けやAPI収益がそれに続く形だと指摘されています。つまり、アーリーアダプターは企業ではなく個人に多い。企業側が導入に及び腰になっていることがうかがえます」と指摘するのは、AI関連ソリューションを提供するElithの代表取締役CEO／CTO井上顧基（以下、井上）だ。
井上は、AI利活用において数多くの企業とかかわってきた経験から、生成AIを「使いたい」と思いながらも、AI導入における「不安」が企業における導入の障壁になっていると感じているという。
「海外では、生成AIのハルシネーション（誤情報生成）が原因でコンサルタントが顧客に返金したり、弁護士が判例にない情報を引用して訴えられたりする事例が発生しています。企業での導入が進まないのには、そもそもAIの性能評価基準が不明確であることや、情報漏えいなどのセキュリティ上の懸念を払拭できないことが要因にあるのでしょう」
そういったなかで、AIがもたらす事故や誤用、リスクに関する研究分野である「AIセーフティ」に世界的な注目が集まりつつあるが、日本ではまだその認識が十分ではない。
「AIセーフティは、実際にAIを使ってみて初めて必要性に気づくものです。日本ではそもそもAIの活用が進んでおらず、そこまで考えが及んでいないのが現状です。AI活用で“攻める”ためには、AIセーフティとAI導入をセットで考え、AI導入後の品質管理などの“守り”を固めることが今後ますます重要になってくるでしょう」
情報の正確性を評価する「GENFLUX」の革新
とはいえ、AIの品質のチェックには複数人の専門家が必要となる。各企業がそれぞれ品質管理、監視を行う専門家を揃えるのは難しい。そこで、Elithが開発したのが、AIセーフティプラットフォーム「GENFLUX（ジェンフラックス）」だ。
同プラットフォームは、ハルシネーション・サイバー攻撃に対するセキュリティ対策の有効性・国内外ポリシー準拠などAIリスクを包括的に評価し、ダッシュボード上でAIモデルの挙動をリアルタイムに監視できるというものだ。評価自体もAIが行う。
数値で評価を行うため、専門家でなくとも評価状態が直感的にわかるという。
ハルシネーション防止では、AIが提示するリファレンス（情報源）を検証し、それが正確な情報源に基づいているのかを確認し、誤情報を自動検出。一般的なAIエージェントと連携し、リファレンスそのものをチェックするため、情報の正確性を高めることができるという。
「我々のGENFLUXが提供する価値は、単なるセーフティやセキュリティ機能といった後段のプロセスではなく、その前段にある『情報の正確性を担保する』という根源的な部分にこそ、革命的な意義があると考えています」
また、GENFLUXは国際的な標準化・認証や世界の法規制の準拠状況を自動チェックし、リスクを可視化することもできる
「日本の企業がヨーロッパでAIビジネスを展開しようとすると、EU AI法の厳しい基準を満たせず頓挫してしまうケースが少なくありません。GENFLUXポリシーチェック機能で、事業を展開したい国の法規制に準拠しているかを瞬時に確認でき、海外展開時のリスクを大幅に低減することも可能になる。世界への攻めの戦略にもつながります」
現在、製薬会社や金融機関など、数字や情報の正確さに極めてシビアな業界や、海外展開を目指す企業が、GENFLUXの導入を積極的に進めているという。
日本発のAIセーフティをグローバルスタンダードに
GENFLUXの実現を可能にしたのは、研究に裏打ちされたElithの開発メンバーの高い技術力だ。開発メンバーは、AI研究の世界で「トップカンファレンス」と呼ばれる国際会議のICCVやICLRで論文が採択されるレベルの研究者たちが揃う。
ハイレベルなメンバーを取りまとめる井上自身も、現役のAI研究者だ。
「自身も研究者だからこそ、彼らの研究の価値がわかり、ビジネスに直結させることができる。だからこそ優秀な人材が集まっていると自負しています。このメンバーなら技術ではほかに絶対に負けない。そのためにメンバーは、日々研究と論文投稿を続けています」
井上がElithを起業したのは2022年。自身も研究を行うなかで、研究成果をビジネスに直結させ、より良いものを社会実装したいという強い思いがあったという。
「研究開発成果よりもマーケティングによって事業成果が出てしまうという今の日本の企業経営の現状に強い危機感がありました。研究で出した成果を製品に取り入れ、競合優位性をつくっていけば、利用者に高い価値を提供できる。この好循環をつくっていきたいと考え、起業にいたりました」
井上は研究者としての視点と起業家としての視点を併せもち、Elithにおいて研究成果を社会実装へとつなげる独自のエコシステムづくりに力を注いでいる。
「『技術を起点にビジネスを創出し、その利益でさらに研究を加速させる』というエコシステムをつくりたい。特にAIセーフティ領域は、国際的にも重要性が高まり、標準化技術の研究開発が求められています。GENFLUXの開発においても、国内外の専門家から助言を得ながら取り組みを進めています。AI活用の安全性をどのように社会へ広げていくか、そのための発信活動にも手ごたえを感じています。」
井上が未来に見据えるのは、AIセーフティ領域におけるGENFLUXのグローバルスタンダード化だ。世界中のユーザーにアクセスするため、まずはアジア市場を目指し、その後アメリカ市場にも挑もうとしている。日本発のテックサービスとして世界の競合にも技術力で真正面からぶつかっていく姿勢が井上の誇りだ。
「世界の競合とも技術力で正面からぶつかって勝ち切りたい。そのためにトップカンファレンスでの研究発表を継続し、技術力を磨き続けます。今後、意識しなくてもあらゆる場面でAIを使う社会になっていくのは間違いない。安心してAIを使える世の中に寄与していきます」
