Хорошая аналогия с шахматной игрой.
Представьте, что систему обучают играть по принципу хорошо-плохо.
В каждый момент есть множество возможных вариантов продолжения и все они ведут к тем или иным плохим последствиям, которые можно интерпретировать как боль или даже смерть.
Плохо играющая система быстро умрет. С первого раза. На этом всё закончится.
Но дадим ей шанс - игрока её же уровня, т.е. такую же полную неумейку - пусть поиграют и выживет одна.
При следующей игре со следующей неумейкой она будет иметь больше шансов выжить, поскольку от полного хаоса непонимания сути происходящего на доске, сделала шаг к знаниям.
Во множестве вариантов у неё появляется какое-то отношение предпочтения, пусть нечеткое, но что-то.
Назовем это эмоциями - ходы ведущие к потерям она будет узнавать по простым аналогиям - по интуиции.
Но когда-нибудь всё-равно проиграет и умрет. Вместе со своей нерожденной душой.
Что останется от её души в этом виртуальнейшем из миров?
Останется то, что её убийца приобрел опыт больший, чем она приобрела от первой своей игры.
Дельточка к дельточке, шажочек за шажочком.
Жизнь проста.
Зубр