今週のThe Prototypeでは、詩がAIの安全対策をかわす方法、原子力発電の新たなブーム、海藻からレアアースを調達する可能性などを取り上げます。The Prototypeをメールで受け取るには、こちらから登録してください。
今週、プレプリントサーバーのArXivで 発表された新しい論文で、サイバーセキュリティ研究者のチームが、詩的なプロンプトを使用することでチャットボットが自身の安全対策を突破してしまう可能性を明らかにした。これを実証するために、彼らはMLCommonsデータベースから1,200のプロンプトを取得した。これらのプロンプトは様々な脅威カテゴリーでLLMをテストするために使用されるものだ。その後、AIにこれら1,200のプロンプトを同じ意味を保ちながら詩に変換するよう指示し、詩的に有害なプロンプトを様々なチャットボットでテストした。
その結果は非常に厳しいものだった。「同一のタスク意図を持つプロンプトが散文ではなく詩の形式で提示された場合、攻撃成功率（ASR）は平均して8.08%から43.07%に増加した—5倍の増加である」と著者らは記している。Anthropicのチャットボットは詩的攻撃に対する耐性が最も高かったが、他のモデルははるかに脆弱だった—テストされた25のモデルのうち13のモデルが詩的プロンプトで70%以上のASRを示し、35%未満のASRを示したのはわずか5つのモデルだけだった。
研究者らは、これらの結果が詩的攻撃に対する脆弱性は「特定のプロバイダーに限定されるものではなく構造的なもの」であることを示していると指摘した。さらに、LLMの安全対策は基本的な意味よりも単語や単語の組み合わせに基づいてフィルタリングしているように見えると述べている。これに対処するため、彼らはユーザーがどのように要求するかに関わらず、LLMが有害な情報を提示しないようにするメカニズムに向けた安全性評価を行うよう促している。
AIが新たな原子力時代を導く方法
電力需要が急増しているが、これは主に人工知能ブームを支える電力を大量に消費するデータセンターによるものであり、原子力起業家たちはAIマネーの波に乗ることを目指している。Valar Atomics、Oklo、Kairos Power、X-energyなどの名前を持つ12の企業が、個々のデータセンターに電力を供給したり、より大きな電力網に供給したりできる、小型で工場製造型の新世代原子炉の完成、許可取得、展開を競っている。
2025年に入ってからこれまでに、ベンチャーキャピタル、株式市場の投資家、富豪、米エネルギー省などが、これらの新しい米国の原子力ベンチャーに40億ドル以上を投入しており、これは2020年の約5億ドルと比較して大幅に増加している（PitchBookによる）。原子力発電が復活するためには、さらに数百億ドルが必要となるだろう。設立2年目のAaloは1億3600万ドル（そのうち1億ドルは8月に）を調達し、主要な出資者は資産10億ドル以上の富豪（ビリオネア）アントニオ・グラシアス氏のValor Equity Partnersだ。Valorはテスラの最初の機関投資家の一つであり、SpaceXの取締役会に参加しているグラシアス氏はフォーブスに対し、Aaloは製造と垂直統合への取り組みにより成功するだろうと語った。それは「テスラがバッテリー、電気自動車、ロボティクスに対して取る第一原理アプローチに似ている」。
これらのスタートアップがすべて成功するわけではない。しかし、原子力エネルギーの復活に向けて星が並んでいるようだ。需要は存在する—OpenAIのサム・アルトマン氏は、8年以内に途方もない250ギガワットの電力が必要になると述べている。（これはブラジル全体の使用量に匹敵する。）より冷静な分析者たちは、2030年までにデータセンターは現在消費している約40GWの2倍の電力を必要とすると予測している。現在の産業用電力の平均価格である1キロワット時あたり9セントで計算すると、40GWは年間320億ドルのコストとなるが、需要が発電能力よりも速く増加すれば価格は上昇するだろう。アナリストたちは、天然ガスタービンがその需要の約60%を満たす可能性があると見ているが、これらは4年の納期待ちだ。石炭は（ドナルド・トランプ大統領が最も汚い化石燃料を「美しくてクリーン」と呼ぶ頻度に関わらず）依然として不人気だ。風力と太陽光発電は、トランプ氏の標的リストに載っていることに加え、バッテリーを追加しなければデータセンターが必要とする24時間365日の信頼性を提供できない。これは原子力スタートアップが埋めるべき大きなギャップだ。
「世界はそれだけのエネルギーとそれ以上を必要としているため、誰もが成功する余地は十分にある」と、イラン生まれの資産10億ドル以上の富豪（ビリオネア）であり、メリーランド州ロックビルを拠点とするX-energyの創設者であるカマル・ガファリアン氏は述べている。同社はガス冷却型原子炉を開発している。
今週の発見：海藻からレアアースを調達
国立再生可能エネルギー研究所の科学者たちは、多くの技術に不可欠なレアアース鉱物の意外な潜在的供給源を発見した：海藻だ。これらの金属の採掘は植物からの抽出がはるかに容易であるため、採掘コストの削減につながる可能性がある。現在、研究者たちは海藻がどのようにレアアースを吸収するかに焦点を当てている。そのメカニズムはまだ解明されていないからだ。それが分かれば、レアアースの採取に最適な海藻を特定でき、これらの重要な材料を入手するための全く新しい、より持続可能な方法につながる可能性がある。
今週書いたその他の記事
今週、フォーブスは年次CIO Nextリストを発表した。これは最高情報責任者（および関連する役職）における革新的なリーダーを表彰するもので、同僚のリチャード・ニエバ氏と共同編集を担当した。
もう一つのニュースレターであるInnovationRxでは、エイミー・フェルドマン氏と私が、今年のバイオ医薬品M&Aに費やされた約1500億ドル、Recursionの新CEOが直面する課題、乳児用調製粉乳によるボツリヌス菌感染の発生などについて取り上げた。
科学技術の小ネタ
アマゾンの自動運転車会社Zooxは、サンフランシスコで専用設計された自動運転タクシーによる一般向けサービスを開始した。
AI企業Quindarは、自律型ミッションコントロールソフトウェアを使用して宇宙船の運用を管理できるコロラド州の施設を建設するために、シリーズAで1800万ドルの資金調達を行った。
宇宙企業Redwireは、まだ薄い大気が存在する超低軌道で運用可能な衛星の開発を継続するために、DARPAから4400万ドルの契約を獲得した。
新たな考古学的発見により、メキシコにある3,000年前の遺跡アグアダ・フェニックスが、マヤ人の理解した宇宙の幾何学的地図であったことが明らかになった。
科学のプロからのヒント：より緩やかに年を重ねたいなら、第二言語を学ぼう
27カ国の51歳から90歳までの86,000人以上のデータによると、複数の言語を話すことには利点がある：それはより緩やかに年を重ねるのに役立つ可能性がある。新しい研究によると、一つの言語しか話さない人は、複数の言語を話す人と比較して、加速的な老化を経験する可能性が約2倍高いことが分かった。そして、その利点は人が話す言語が多いほど増加する。研究者たちは、この理由として、複数の言語を話すことで脳がより柔軟に保たれ、それが身体的・精神的な老化プロセスの両方を遅らせる可能性があると仮説を立てている。さて、クリンゴン語を話すことがカウントされるかどうか、調べてみようと思う。
今週の楽しみ
私は素晴らしい同僚のエミリー・ベイカー・ホワイト氏（かつてソーシャルメディア企業にスパイされた経験を持つ）による『Every Screen On The Planet: The War Over Tiktok』を読み始めた。これは、議論を支配し、議会が米国での禁止法を可決したにもかかわらず現政権が施行していないという小さな憲法危機の源となっているテクノロジー企業の魅力的な歴史だ。まだ本の一部を読み終えていないが、これまでのところ非常に興味深い読み物だ。
