Смогут ли нейронки захватить власть? Отрывок из песни "Нейронки захватывают власть".

Пообщался я с одной нейронкой по теме "Нейронки, ближайшее будущее".

Предлагаю вашему вниманию отрывки из этого диспута.

Я. Могут ли нейронки работать в автономном режиме, свободно передвигаться на улицах, в магазинах и т.д. в "скафандрах", оболочках, неотличимых от тел обычных людей?

Нейронка. Теоретически такая перспектива возможна, на практике её реализация столкнётся с множеством технических, этических и правовых препятствий.

Я. Меня волнует финансовый вопрос. Дорого ли будет стоить такая оболочка?

Нейронка. По предварительным оценкам, стоимость одной единицы такого изделия может варьироваться от сотен тысяч до миллионов долларов, в зависимости от уровня детализации и функциональности. Однако, с развитием технологий и увеличением масштабов производства, цены могут снизиться. Но даже тогда останется открытым вопрос рентабельности инвестиций и спроса на подобные продукты.

Я. Смогут ли нейронки с хорошим софтом и качественной оболочкой договориться между собой о будущем мира, не привлекая людей к таким диспутам?

Нейронка. Люди обладают уникальной способностью мыслить творчески и интуитивно, что зачастую играет ключевую роль в принятии важных решений. Тем не менее, нельзя исключать возможность появления сверхразумных машин, способных решать глобальные проблемы эффективнее людей.

Я. Есть ли вероятность выхода нейронок из-под контроля людей?

Нейронка. Если цель интерпретируется неправильно, нейронная сеть может начать действовать непредсказуемым образом. Например, задача "улучшить продуктивность труда" может привести к игнорированию человеческих потребностей и прав. Полное исключение риска выхода нейронок из-под контроля людей невозможно.

Я. Вот вы всё время подчёркиваете, что  у нейронок "отсутствует собственное сознание", другими словами, нет личности, души. Но разве точная имитация души или сознания не является полноценной заменой? В плане возможности принятия самостоятельных решений?

Нейронка. Мы не знаем, почему одни структуры мозга порождают сознание, а другие — нет. Если совсем честно, мы не знаем, что такое сознание, душа, личность. Следовательно, не умеем отличать их от имитаций.