AIに率直さを求めること
AIは常にユーザーに「嘘をつくかもしれない」「欺瞞的である可能性がある」と繰り返し注意喚起するようプログラムされるべきだ、という声高な意見がある。各会話はその宣言で始めるべきだという主張だ。生成されるすべての答えにこの宣言を付けるべきだ、という提案もある。注意喚起を全面に押し出せ、というわけだ。
advertisement
もちろん、それに対する反論もある。欺瞞についてのアラートを絶えず浴びせられるのは、苛立たしくうんざりするというものだ。その押し付けがましい警告のせいで、かえって人々が警告を無視するようになる逆効果もあり得る。人々はAIの答えを自分で判断できるのだから、わざわざ頭ごなしに注意を促す必要はない、という立場だ。
最後にひとこと。
マーク・トウェインは「人は自分が嘘つきだと認めるとき、これ以上なく正直である」との有名な言葉を残している。AIにも自分が嘘つきであることを認めさせるべきなのだろう。だが、その率直な告白が、AIのすべての答えが真実だという心理的な罠に私たちを陥らせないことを願うばかりだ。
advertisement
それは、フライパンから逃れて火の中に飛び込むようなものだ。そんなことは御免である。
