Агрессия и искусственный интеллект.

[Newcore]

Дело вот в чем:

В нас то агрессия вбивалась миллионам лет при чем постоянно, не переставая.

Выживал только самый агрессивный.

Природа она вообще неимоверно жестока.

И на последних стадиях всё равно агрессия продолжала вбиваться.

Выживали только самые агрессивные народы, способные огнём и мечем защищать свои территории или отвоёвывать себе новые.

Ну вот, а в ИИ этого же ничего не будет вкладываться.

Он будет не агрессивен, разве что это будет ИИ созданный для военных целей, вот тогда то его нужно будет опасаться. Агрессия в ИИ не появится если ее в него не вложить.

С другой стороны, не известно на сколько, даже вложенная агрессия, будет адекватна. Она может быть как излишня так и недостаточна.

То есть мы столкнёмся с той же проблемой, что и при глобальной проблеме создания самого ИИ. Агрессию в ИИ тоже придётся разработать, выработать приемлемые механизмы и рамки.

Есть и еще одна сторона:

«Дети очень жестоки», то есть дети не знают норм поведения в социуме и могут вести себя очень жестоко. Так же и с ИИ он, будучи ее сырым, может, например, случайно что-то разрушить или убить человека, абсолютно не подозревая, что он делает что-то плохое.

Кросспост: Агрессия и искусственный интеллект.

@темы: Мысли и Наблюдения

Comments

[Techno_Jaro]

Человек создаст ИИ по своему образу и подобию, есть вероятность, что до агрессии ИИ дойдет сам. Вспомни стычку космонавтом с компьютером в "Космической Одиссее 2001 года". Это, конечно, НФ, однако для такой длительной миссии компьютер и ИИ-софт к нему создавались по идее только для помощи космонавтам.

[Newcore]

Это всё НФ, в которой почему-то компьютер сразу обладает агрессией.
Я клоню к тому что агрессия - это не так просто как кажется.
Это сложный алгоритм, который еще и надо заложить.