Цитата Сообщение от pumpkin Посмотреть сообщение
То есть если ситуация выйдет за рамки того набора данных, на котором сеть тренировали - результат её работы будет совершенно случайным, если вообще будет результат.
А у человека как-то иначе? Попроси трехлетнего ребенка прибить полку. Нихрена он не сделает, потому что не умеет ни инструментом пользоваться, ни как вообще полка держится на стене не знает. Мозг точно так же будет поставлен в тупик и примет случайное решение, если будет поставлен в ситуацию, по которой не имеет ни опыта ни знаний. Собственно о той же проблеме вагонетки, люди принимают решение, базируясь на своем понимании морали, на предыдущем опыте, на знаниях. Попроси то же самое сделать ребенка, у которого еще нет ни морали, ни понимания о последствиях, получишь случайное решение, если вообще какое-то решение. Он в лучшем случае просто не поймет о чем речь, в худшем испугается и убежит. Собаку попробуй попроси принять такое решение Что вы ожидаете от ИИ, который, как справедливо тут уже заметили, находится сейчас на уровне собаки, получить решения, на которые и человек не всякий способен, даже умудреный опытом и знаниями? Подождите, пройдет немного времени, и он научится всему.