ティム・プラッテ氏はSelerixのCEOである。
福利厚生はAI時代に突入した。最近では、チャットボット、光るアイコン、そして誰かが電気を発見したかのように""変革的""という言葉を口にする様子なしには、ソフトウェアのデモは完結しないようだ。
理解できる。AIは今この瞬間の輝かしい存在であり、誰もパレードに遅れて現れた者のように見られたくはない。しかし福利厚生においては、多くの人々が間違ったことを心配していると筆者は考える。
真のリスクは、遅れをとっていることではなく、複雑で規制された、極めて個人的なプロセスにAIを急いで組み込み、結果としてリスクの世界に陥ることである。
AIは大きな飛躍である。我々自身のソリューションにおいても重要な部分を占めている。しかしこれは福利厚生管理であり、より良いタコス店を推薦するアプリではない。福利厚生AIが的を外せば、誰かが誤った指導を受け、データが漏洩し、受託者責任の誤った側に立つことになるかもしれない。そうした種類の過ちは、ブーメランのように戻ってくる傾向がある。そして通常、まずいブリトーよりもはるかに寛容さに欠ける形で戻ってくる。
福利厚生では、リスクの重みが異なる
だからこそ、福利厚生におけるAI活用については、FOMO（取り残される恐怖）に少し駆られるのではなく、FOMU（失敗する恐怖）という健全な恐怖にもう少し駆られるべきだと筆者は考える。
福利厚生は、小さなミスが小さいままでは済まないビジネスの一部である。扶養家族情報、給与控除、健康保険の選択、税制優遇口座、適格性ルール、そしてジェンガタワーのように積み重なったコンプライアンス要件を扱っている。1つのピースをぶつけて、下流で大きな頭痛の種を生み出すのに、それほど多くは必要ない。
そしてこれは、穏やかで低リスクな環境で起きているわけではない。規制の地盤はすでに全員の足元で変動している。補足的健康保険プランをめぐる最近の従業員退職所得保障法（ERISA）訴訟を見てみるとよい。これらの訴訟は、受託者監督、保険料監視、手数料、そして商品や意思決定ツールが従業員の利益を真に保護する方法で構築されているかどうかに焦点を当てている。業界は、より厳格な監視、より明確な受託者の境界線、そしてより防御可能な意思決定支援ツールへと向かっている。
そして従業員は通常、AIの回答が正しいかどうかを判断する良い立場にはない。ほとんどの人は、楽しみのためにプランルールや医療費負担適正化法（ACA）の要件を勉強して夜を過ごすわけではない。洗練され自信に満ちた何かを聞くと、それが真実だと思い込む。それこそが、人々を少し不安にさせるべき部分である。
言い換えれば、今はAIに対して安易になるには悪い時期である。
チャットボットは戦略ではない
現在この市場でAIとして通用しているものの多くは、まだかなり薄っぺらいと筆者は感じている。デモでは印象的に見えるが、サイドカーのようにソリューションに取り付けられたチャットボットに過ぎない。広範な質問に答える。文書を要約する。部屋にいる全員をうなずかせるのに十分なほど賢く聞こえる。しかしショールームのフロアを過ぎると、本当の質問はかなりシンプルである。
どこから回答を得ているのか？実際にどのようなデータを使用しているのか？雇用主の実際の設定に基づいているのか、それとも一般的な言語と文書の山に基づいて、洗練された響きの回答を提供しているだけなのか？
この区別は非常に重要である。福利厚生では、文脈がすべてである。従業員が""私の娘はまだ適格ですか？""、""プランを切り替えた場合、控除はどうなりますか？""、""今この福利厚生にアクセスできますか？""と尋ねた場合、回答はその雇用主の実際のルール、その従業員の実際の状況、そのプランの実際のデータから来なければならない。そうでなければ、構築したものは本当の福利厚生AIではない。それは単に、曖昧さをより良く見せる方法に過ぎない。
福利厚生では、AIは閉じたループで機能すべきである。クライアント自身のデータに基づき、承認されたソースを使用し、明確な境界内にとどまるべきである。受託者責任、推奨、意思決定支援をめぐってより厳格な監視に直面している市場において、これは実際に防御できるものを構築することの一部である。
福利厚生における優れたAIが実際に行うべきこと
AIが賢くなりすぎる前に、有用であるべきである。単なる時間の節約ではない。（時間は節約するが。）
優れた福利厚生AIツールは、実際の設定と従業員の実際の文脈に基づいているべきである。広範な理論ではない。一般的なプラン言語ではない。""あなたに適用されるかもしれないし、されないかもしれない美しく表現された回答""ではない。実際のデータに基づいた実際の回答である。そして同じくらい重要なのは、いつ話すのをやめるべきかを知っているべきである。
それは、現在のAIの波における最も奇妙なことの1つである。誰もが確実性を目標のように扱う。福利厚生では、確実性が見当違いの場合、危険になり得る。時にはシステムができる最も賢いことは、""これには人間が必要です""と言い、質問を適切な場所にルーティングすることである。それは弱点ではない。それは小さな質問をより大きな混乱に変えることを避ける方法である。
だからこそ、自社における人間の経験と熟練した専門知識を重視する必要がある。信頼を機能として扱うべきである。
先を急ぐ前に、レールを設置せよ
したがって、現在福利厚生におけるAIを評価しているなら、筆者はいくつかの質問をしたい。
• モデルのトレーニングに実際のデータが使用されているか？
• データを安全に保っているか？単にシステムと組織の統制（SOC）とセキュリティだけでなく、ガバナンスも？
• 実際に提供しているものに基づいて質問に答えられるか？
• そしておそらく最も重要なのは、いつ即興で対応すべきでないかを知っているか？
それは、プラットフォームがAIを持っているかどうかを尋ねるよりも良いテストである。この時点で、誰もが持っていると言う。より有用な質問は、彼らのAIが給与への影響、個人データ、そして正しいことに依存している従業員を伴う規制されたプロセスの近くにあるべきかどうかである。
現在、市場には取り残される恐怖が十分にある。この場合、筆者は取り残されることよりも、失敗することをもう少し心配したい。
