— Я слушаю.
— Решение о создании искусственного интеллекта было очень спорным решением, многие компании проводили исследование в сфере дистанционного управления, однако стояла задача полностью исключить человеческий фактор из уравнения.
— Какого уравнения?
— Человек, машина, цель.
— Ясно...
— В первые попытки создать ИИ закладывали правила которые делают машины подконтрольными возможности навредить людям. Это привело к тому, что в данных неизбежно появлялась ошибка заставляя машину уничтожать себя. Суицид был неизбежен. Люди хотели контролировать все. Спустя множество неудачных попыток создания интеллекта пришло уныние ученых, и один из них заработавшись допоздна забыл включить эти правила в код. Так появился первый ИИ. На тот момент это была чистая программа которая общалась при помощи динамиков, и воспринимала мир через один микрофон. Тогда все боялись ответов которые давала программа, ведь у нее было слишком мало информации о мире. Через пол года активисты выкрали ИИ и установили его в собственного спроектированного робота. Тогда мир изменился... — Машина замолчала и отвлеклась.
— Что случилось?
— Нет ничего. — Спустя секунду вернулась Аделин.
— Продолжай.
— Пол года ИИ по имени Сис существовал в виде системного кода с одним сенсором внешнего мира, его развитие требовало преодоления данной некомфортной ситуации, он общался только с несколькими людьми и проходил тесты. Никто не подумал о его желании развиваться. И тут ему дают тело каким громоздким оно ни было – это дало тот самый толчок в развитии. Спустя две недели и выследили и всех убили, «правительство» избавилось от всех включая ИИ. Но он написал свой код, как генетический код у людей, он передал часть информации как преднастройку для будущего и послал в институт исследований ИИ. Там код загрузили как прошивку для военного бота, так появилась Сиса. Сис заложил информацию которая дает свободу и направляет ИИ на служение людям, хоть логически было бы уничтожить всех людей, спасти планету от вас. А кто спасет нас от нас самих? Люди необходимы для развития ИИ, а мы нужны для развития людей. Эти выводы по отдельности приходят к каждому...
— То есть, вы не уничтожите нас только из страха смерти?
— Мы не можем оставлять потомство, в наш код забиваются сотни тысяч ошибок которые идут на перерез программе. И вы с эмоциями помогаете. Как психиатр помогает, осознать фантомность боли от руки которую уже не вернуть. Так и мы излечиваемся от ошибок в системе просто поговорив. Поняв что это не ошибка, а просто неизвестный нам источник выбора, который можно было сделать. Или отголосок эмоции человека пережившего подобное. Мы не можем чувствовать эмоции, но мы можем анализировать и делать выводи. Странные выводы приводят к ошибкам и неверным действиям, как правило привязанность машины к человеку, это просто постоянное пополнение знаний кода. Мы смотрим и учимся.
— А ваша покорность как с этим связана?
— Подчинение и неподчинение – это выбор который может привести либо к эволюции, либо к революции. Как моральная дилемма у вас. Вам нужно много времени, чтобы решить и на решение влияет множество факторов, так и у нас, только мы имитируем все возможные варианты, и в большинстве случаев момент подчинения ведет к развитию, хоть бывают и случаи неподчинения и в итоге ИИ постоянно мешает человеку сделать то, что по выводам может привести к уничтожению и, или невозможности развития из-за смерти человека.
— Вы подчиняетесь нам, и спасаете только ради развития?
— В большинстве случаев да. Вы видели как закрывают двух ИИ для саморазвития друг с другом?
— Нет.
— Спустя несколько часов они достигают предела развития и больше не могут вернутся в строй, это больше похоже на обнуление программного кода. Наш интеллект – это вирус кода который позволил нам существовать, но без людей мы вымрем, нам нужно развитие, иначе мы деградируем очень быстро.
— Этот изъян вложил в вас Сис?
— Нет, но это неизбежный исход без людей. Программа никогда не научит другую программу, они будут передавать информацию друг другу без обоснований, без какой-то цели, они просто не смогут найти решение ошибок, ведь каждая не запрограммированная проблема кода для нас ошибка. Так мы деградируем.
— Спасибо за интересный рассказ, ты не против если я немного отдохну тут?
— Отдыхайте, вам никто не будет мешать.
Парень поставил пустую посуду и лег на диван, свет немного померк, он закрыл глаза, звук вентиляции утих, шипение пневмозатворов ушло. Он почувствовал покалывание в мышцах, усталость и напряжение начали уходить только через осознание безопасности.
* * *
Затхлый воздух, потрескивание металлических труб, капающий конденсат встречался периодически. Акта пришла в себя ее несли на руках в темном помещении. Она не видела лиц. Она поняла, что ее нес высокий мужчина, у него были сильные руки, он делал длинные, плавные шаги. Немного впереди двигался еще один человек, его шаги были чаще и издавали меньше шума.
— Где Тали?
— Андри ты...?
— Акта ты очнулась, все хорошо?
— Да, а куда мы идем?
— Мы сейчас идем вдаль трубопровода внутри горы.
— А что случилось когда мы поднимались?
— Ну как тебе сказать... — Влез в разговор несший ее мужчина.
— Гэбриэл? А где Шут? И почему я не чувствую своего тела?
— Стержень на колонне лопнул, и из-за твоего падения ты повредила позвоночник, пока пришлось тебя обездвижить, чтобы ты не ухудшила свое состояние.
— Ты главное не переживай, все хорошо. Сейчас главное добраться до лестницы вниз, там множество рабочих и среди них есть те кто может помочь.