国防総省からの要請には、「良心に従えば応じることはできない」
アンソロピックのダリオ・アモデイCEOは26日に発表された声明の中で、自社のレッドラインを改めて強調し、安全措置を撤廃して「いかなる合法的用途」にもAIツールを使用できるようにするという国防総省からの要請には、「良心に従えば応じることはできない」と述べた。
advertisement
この声明では、アンソロピックが米軍や情報機関向けに自社モデルを展開するために行ってきた取り組みが説明された一方で、「AIが民主的価値を守るのではなく、逆に損なう可能性がある限定的ないくつかの事例が存在すると考えている」と記されている。その結果、同社の国防総省との契約には、「国内での大規模な監視」および「完全自律型兵器」への利用を防ぐ2つの安全措置が含まれている。後者は、その運用に人間の関与を必要としない兵器を指す。
アモデイは声明で、「AIによる大規模な監視は、私たちの基本的自由に対して重大かつ新たなリスクをもたらす。そのような監視が現時点で合法とされているとしても、それは法律が急速に拡大するAIの能力にまだ追いついていないからに過ぎない」と述べた。
さらに彼は、「現在における最先端のAIシステムは完全自律型兵器を支えるには十分に信頼できるものではない。米国の兵士や民間人を危険にさらす製品を、我々が承知の上で提供することはない」と付け加えた。
advertisement
