人に言われて行動するロボットは、学ぶべきことを自発的に学習することができない。それを可能にするには、まず自分が「知らないこと」に気づく能力を持つとともに、それを学びたいと思う気持ち、つまり「好奇心」が必要となる。ロボットが好奇心を持てば、周囲の環境から物事を継続的に学習し、適応力を効果的に高めることができる。そんなアーキテクチャーが開発された。
人工意識（AC）の研究開発を行うForcesteed Robotics（フォーススティードロボティクス）は、ロボットが未知の情報を自ら探索して学習する継続的自律学習アーキテクチャー「好奇心（System4）」を公開した。なぜシステム4なのかと言えば、Metaで大規模言語モデル「Llama」の開発にあたるローレンス・ファン・デル・マーテン氏が提唱するシステム3の次の段階という意味だ。
システム1とシステム2は、心理学者ダニエル・カーネマン氏が提唱した人間の2つの思考モード。それぞれ、瞬間的で直感的な思考と、少し頭を使う論理的思考を指す。それを受けてマーテン氏は、AIが次に進むべき段階となる知的思考をシステム3として提案した。それには、自己改善や継続学習といった要素が含まれる。ロボットが好奇心を獲得することには次の4つの利点がある。
1. 周囲の変化や新しい対象に気づき注意を向け学習のきっかけを自ら作る。
2. 希な事象に対しても学習を行うことで実用性を高める。
3. 学習の課題となる「学習済みシーンの忘却問題」に対応する。
4. ロボットがつねに成長し続ける。
ロボットが「意識」を持つことに警戒心を示す人もいる。そこで人工意識開発を目標とするForcesteed Roboticsは、ロボットの行動規範に「ロボット工学三原則」を取り入れている。これは、アイザック・アシモフが1950年に出版した短編集『われはロボット』のなかに登場するものだ。未来のロボット社会の出来事を綴ったうんと昔の小説の架空の話だが、現在のロボット開発にある程度の影響を与えている。要約するとこんな内容だ。
1. ロボットは人に危害を加えてはいけない。
2. 1に違反しないかぎり人の命令に従わなければいけない。
3. 1と2に違反しないかぎり自分を守らなければいけない。
Forcesteed Roboticsでは今後、「好奇心（System4）」をフィジカルAIプラットフォームのコア機能として実装し、「環境に応じて成長する知能の社会実装」を推進すると話している。
