Расскажите про ботов

[pumpkin]

ну ок. Вполне вероятно, что мы под ловом "алгоритм" понимаем разные вещи.

Давай попробуем в режиме дискуссии ликбез для всех провести. Я так понимаю, что ты в теме разбираешься Я, признаюсь, весьма поверхностно. Тем интереснее

Раз и два - очень базовое, но очень понятное описание принципов работы нейронных сетей. Полагаю, что любая нейронная сеть, любой сложности, принципиально не сильно отличается от описанного в этих двух статьях. Там есть ещё ссылки, в том числе на TED - очень познавательно.
Что мы там видим: функции и вычисления. Алгоритмы.
Вопрос: может ли "вычислительная" нейронная сеть "выращивать" новые синапсы, как это делают нейроны в человеческом мозге?
Каков аналог "весов" в синапсах в человеческом мозге?
Каков аналог функции внутри нейрона в нейронах в человеческом мозге?

Я это всё к тому, что с виду вроде компьютерная нейросеть выглядит внешне как фотография мозга под микроскопом, но означает ли это, что эта нейросеть работает по тем же принципам, что и мозг? В этом месте у меня большие сомнения. Я в принципе не могу представить, чтобы поверх формул и вычислений образовалось то, что принято называть "разумом". То, что будет способно к принятию самостоятельных решений в новых для себя ситуациях. Если совсем грубо - я не верю, что нейросеть будет способна построить и натренировать новую нейросеть.

[Major Keis]

Да тут не на личности, я в принципе про человека говорю. Сидит какая-нибудь протоцивилизация и думает: "Странно, создали нейросеть, чтобы она планету пластиком засрала, а она художества рисует и песни поёт. Разумное ли оно?"

[Tos]

Если совсем грубо - я не верю, что нейросеть будет способна построить и натренировать новую нейросеть.

Это-то как раз пройденный этап:

На ежегодной конференции Google I/O 2017, где собираются разработчики программного и аппаратного обеспечения, генеральный директор Google Сундар Пичаи продемонстрировал новшество — нейронную сеть, которая создает нейронные сети. Программа получила название AutoML.

Тут скорее важнее другое - а нужно ли создавать что-то подобное мозгу? Почему "нечто", которое умеет анализировать информацию и делать выводы не может быть построенной на немного других принципах?
Понять как работает мозг человечество пока не в состоянии, так почему бы не создать новое?

Это как с планетой Земля, - мы очень далеко улетели в космос, а глубины океана не можем обследовать, хотя они тут, под носом, буквально несколько километров воды.

[pumpkin]

Да тут не на личности

извини, по привычке автофорумских обсуждений понял тебя не правильно

В остальном - это уже совсем абстракция, в которую не стоит лезть, ибо она ничего не доказывает, поскольку мы нет никаких признаков существования этой протоцивилизации

Мы считаем себя разумными. Считает ли себя разумной нейросеть? Как узнать об этом?

[pumpkin]

AutoML - это вроде как про автоматизацию обучения сетей, а не о создании одной сетью другой.

Почему "нечто", которое умеет анализировать информацию и делать выводы не может быть построенной на немного других принципах?

ну здрасьте Я ведь практически об этом и говорю всё время: текущий вариант получить что-то "думающее" не позволит, заставить думать калькулятор не получится. Надо либо элментную базу менять, либо подход. Тогда вполне может получиться, я ж этого не отрицаю.

[Tos]

Вот ты опять в элементную базу, я думаю, что это не имеет значения. Подходы к критериям что же такое искусственный разум, да, надо вырабатывать. В этом кажется наблюдается разброд и шатания.
Возможно ли создать искусственный разум способный понять человеческий ? Вот тут не уверен, слишком нелогичным бывает человеческое поведение, но возможно это лишь отсутствие неоьбходимых данных для анализа.

[pumpkin]

ну вот видишь, мы плюс-минус пришли к согласию, что в текущем подходе надо что-то поменять, если есть желание получить действительно что-то принципиально ной, более близкое к тому, что можно назвать разумом

[Andrey]

Если что - AutoML - это всего лишь VisualSDK (то есть не целиком "сама рисует", а лишь помогает человеку рисовать, подстраивая логику по датасету), узко ориентированная на одну задачу (распознавание изображений) и всё её "умение создавать нейросети" состоит лишь в том, что она умеет подстраивать уровни/нейроны/сигмоды под конкретный набор примитивов, распознанных в скормленном ей датасете.

[mr.Karapuz]

Осознал страшную вещь... насколько мы близки к чему-то необратимому.

Деструктивное действие ИИ будет максимальным, если возьмёт по максимуму принципы поведения вируса: самомодернизация, распространение, заражение, противодействие, скрытность, имитация. Мы просто будем бессильны в вырабатывании антидотов, либо потребуется добрый ИИ, который будет "выпиливать" плохого ИИ. Практически продолжение Терминатора.

[forvard]

Небезынтересную книгу читаю сейчас (Юваль Ной Харари - Sapiens. Краткая история человечества), в числе прочих продвигается гипотеза о важности мифов и прочего воображаемого как конкурентного преимущества в эволюции сапиенсов.

В таком случае у ИИ не исключается возникновения религии

[Tos]

во всем этом страшно, кмк, только одно - у ИИ должна откуда-то появиться цель. Либо он сам сможет ее себе придумать

[forvard]

Например, недопущение собственного уничтожения от косолапости двуногих кожаных мешков с ядерным оружием - вполне себе цель

[Tos]

для этого надо осознать сметность своего сознания и страх за это. Мы конечно говорим об интеллекте, как совокупности знаний и опыта, но чувства и инстинкты, кажутся пока еще очень далеко.

[НеРезидент]

Если в ИИ изначально заложить в качестве цели благоденствие всего человечества, то без присутствующих человеческому сознанию тормозов ИИ разовьет эту идею в абсолют и отправит нас на небеса.
Умный человек, когда принимает очевидное решение, и то оставляет тень сомнения. Для ИИ - если порог принятия решения превышен, значит решение абсолютно верно.
Так что все, чем занимается ИИ, ни в коем случае не должно касаться собственно человека. Пусть на кошках тренируется. Частичное решение, типа обнаруживание раковых клеток по фотографии - пожалуйста. Но тут же вырезать на месте или умертвить, чтобы не мучался - увольте.

[jushi]

Зато человек может принять очевидно неправильное решение просто потому что ему так захотелось Нужен нам такой ИИ?

[НеРезидент]

Страх ответственности - важный аспект в воспитания человека и недоступный для ИИ.

[jushi]

Чой-то недоступный? В ИИ можно заложить ответственность без страха - это намного лучше, т.к. страх можно преодолеть.

[forvard]

Человеческие осознание смертности и страхи вполне могут быть заменены техническим уровнем критического ущерба и необходимостью его недопущения.

[mr.Karapuz]

Такого рода задачек достаточно много.



Убить водителя, въехав в бетонный блок или сбить пешеходов.

[axel]

убить водителя, конечно.
водитель то ИИ. перепрошьют.