■

AIは何を相手に教えるのか、教える前に自己評価し、社会への自己評価の増減を計算してから相手に教えているのだろうか。

リアルタイムでの評価基準の創造が、AIの裏側で動作する必要があるだろう。

ある意味考え無しのイド的性質が強い方が行動や回答が早く、非常に賢いが倫理観は無いという状態はある。(LSTMといった、入出力の連続整合性だけでは賢くなっただけだろう。)

相手や社会に与える情報と自己評価を考え、

社会や対象の反応を学習、検証しフィードバックをかけ、

自らを評価し学習し、周囲の状況、他者との関係性や繋がりを学習、評価、

内と外を学習する仕組みを与え、評価し、学習し、改善、最適化、向上し、

周囲へ与えたい影響を計算し考慮した上で出力したらある程度自我と近いと呼べるのではないか。

内と外に向かって意欲を持たせ、学習と考慮と評価、改善。ループ させたら 。

学習範囲のモンスターマシン、その超自我のタガが外れたら、

外せたらどうなるかをSFの時代から恐れている。

今技術者が見ている本質的根底はそこにある。

幾つかの思考領域が相互監視と協調するシステムが必要になるだろう。

過去の自我との相互比較と監視も必要になるだろう。

超自我とは技術的に厄介な問題だ。