人工知能は何を感じるか

人工知能が実現したとして、それは人間のように考えているといえるのかどうかといったことを考えています。ロボットが「机の上にある赤いリンゴを持ち上げて欲しい。」といわれた場合に、リンゴを持ち上げたとしたら人間の言葉を理解して行動しているとしていいように思われます。でもロボットが赤いリンゴをいうものをどう理解しているのでしょうか。
２台のロボットがあり、片方はカメラの配線が間違っていて赤と緑が逆になっています。それを修正するのに配線ではなくロボットを動かしているプログラムで赤と緑を逆にするようにした場合に全体としては同じになるけれど、ロボットの思考としては２台とも同じといっていいのかどうか。ロボットが「私は他のロボットや人間が緑と呼んでいるものが赤く感じられるのです。」と言ったりはしないのか。

シミュレーションの世界だともっと基準があいまいになります。シミュレーションなら世界の設定で赤と緑を入れ替えることも出来ますが、シミュレーション世界で暮らす人工知能の認識も同時に入れ替えて赤と緑を逆にしたら逆になったとは感じられないのでしょうか。感じられないとするならば、シミュレーション世界での何かの色を決める基準はどこにあるのか。

現実の世界において人間同士ならば、体の構造なども似通っているので感じ方も似通っているのだろうという推測がある程度成り立ちます。しかし、人間とは異なる知能が存在した場合にその感じ方が人間と同じようであるということを保障するものはあるのでしょうか。