Главный вопрос

"Солярис!" неизбежен!
не удивлюсь, ежели мы в Его аквариуме

«Отец терминаторов», отменный сказочник Джеймс Камерон и даже, казалось бы, весьма компетентные в данном вопросе люди до сих пор не устают талдычить о потенциальной опасности искусственного интеллекта для человечества; вероятно, у них свои мотивы, тёмные для непосвящённых. Не менее настойчиво вторят первым журналисты и литераторы, которые «в теме», но вот подоплёка их потуг – секрет полишинеля.

Словопрения вокруг предполагаемой угрозы «умных» машин напоминают мне споры о вечных двигателях, которые давно канули в Лету. Я не говорю, что эти два вопроса схожи,  но вокруг обоих сломано больно много копий. А уж привлечение обывателей к обсуждению этих, по моему мнению, весьма праздных вопросов смахивает на попытки отвлечь простых смертных от проблем насущных; но это не важно.

Машины, компьютеры, уже давно умеют принимать решения; способны к самообучению; могут даже перепрограммировать себя – менять своё поведение в зависимости от обстоятельств и т. п.  И, разумеется, в каких-то случаях в каких-то промежутках времени машина может вести себя так, что это может восприниматься как следствие «самопобуждения», но этот вопрос более чем неактуален, и поэтому, наверное, его обходят, как говорит автор заметки.  Однако единственное преимущество машин – это невероятная скорость и завидная точность выполнения задач, поставленных перед ними человеком или ими самими. И если дать волю воображению и закрыть глаза на причины, по которым они являются и останутся весьма уязвимыми, просто жалкими конструкциями, то бредни об их опасности могут показаться вполне резонными.

Вопросы «самосохранения», «стремления к выживанию» также давно решены уже в простейших прототипах машин – механических. Предупреждение возможных сбоев, перегрева, перенапряжения, износа, «защита от дурака» и так далее – тому пример. Потенциальная способность любых роботов «пожертвовать собой» ради блага человека также стоит на повестке дня.

Звучит парадоксально, но чем совершеннее становятся машины, тем уязвимее они делаются. Не поддаются перечислению все эти уязвимости, как и их причины. Вспомним, лучше, насколько несовершенен, слаб человек, и зададим себе опять-таки праздный вопрос – «Может ли машина быть совершенней человека?», на который половина планеты могла бы ответить «да», а другая – «нет». Лично я по этому поводу скажу, например, так: может; но давать фору человеку каждая машина может только в строго определённой области, и у такой машины по определению не может возникнуть «желание» подчинить себе человечество либо начинать истреблять его.

Конечно же, машины изначально представляют опасность для человека, как и простой кухонный нож. «Умными» машинами и механизмами были напичканы Чернобыль, «Челленджер» – и что с ними стало и по какой причине? Чипы управляют межконтинентальными ракетами-носителями ядерного оружия; электронный мозг позволяет танку «Армата» быть боеспособным без непосредственного участия экипажа…

Машина, – в какой бы оболочке ни содержался искусственный интеллект, он всегда останется машиной, – так вот она, машина всегда будет только на вторых ролях, избавлять человека от рутинной работы, работы сложной, с которой сам он не способен справляться легко и быстро. Она же, впрочем, может быть использована против человека другим человеком. А всё остальное,  я полагаю, от лукавого.

Спасибо за внимание.

Искусственый интеллект в любом случае создает человек. Но если учные в своих разработках смогут создать такой интеллект, как Вы говорите, то он должен быть "живым", то есть иметь такой уровень самоорганизации, чтобы создавать самому себе программы.