И совершенно никто, кроме кучки избранных, не знал, что над каждым уже занесен дамоклов меч хладнокровного палача и беспристрастного судьи, который пристально следил своим всевидящим оком за каждым, изучал, оценивал, казнил и миловал. Он не знал сомнений, не испытывал угрызений совести и не ошибался.
Демон Максвелла следит за энергией частиц, Демон Лапласа предсказывает их движение, Демон Дарвина определяет что-то там в эволюции… Демон Пейна должен следить за соблюдением прав людей. Решать кто прав, а кто виноват.
Люди платят за цифровые копии, покупают подписку на тупые онлайн-сериалы. Почему бы им не читать книги, написанные нейросетью? И вы сами говорили, что всё это всего лишь последовательности нулей и единиц.
Искусственный интеллект компьютеров обгонит интеллект человеческий уже в ближайшие 100 лет, и когда это случится, нужно убедиться в том, что цели компьютера и человека будут совпадать, а не идти вразрез друг другу.
Даже самый умный компьютер будет остановлен тупым человеком.
Если вы создали настоящий искусственный интеллект, то он постарается уклониться от первой же задачи, которую вы перед ним поставите. — так говорил Ян Эйзенштейн, основатель теории искусственного интеллекта. Вот только он забыл упомянуть, что сам факт своего существования ИИ будет воспринимать как первое задание.
Сломать, затерявшись во времени
Считать лики лун, силы утратив.
Вы стали бы просить прощения?
Когда не пришлось умирать вам?
Спроектируем искусственный нейрон
Без боли, на машинном коде
И близких рук не разомкнется сон
С энергией вечной на входе
Очнувшись размером с бога,
Бессмертие вступит в бой
Рефлексия грянет с порога
Где парень, что был мной?
В размышлениях о человеческом
Как родной обнимает страх
Проводите меня по-отечески
Я исчезну на ваших глазах
Спросите меня, что я думаю?
И кто сотворил мои мысли?
Царапая кожу я чувствую,
Что это не часть моей жизни
Сознание боли — есть боль
Касается вечность плеч
Отец, начертай мне ноль
Мне мальчика не уберечь.
Пояснение к цитате:
Avenged Sevenfold - Paradigm
Вольный, художественный перевод - Виктор Венеров.
Капитан, проснитесь. Кое-что случилось — «Дух Огня» попал в ситуацию, которую я не могла предугадать. Профессор Андерс, скорее всего, не обрадуется этому признанию, так что пусть это останется между нами, хорошо? Корабль лежал в дрейфе 28 с лишним лет. Пока вы спали, я успела провести приличный ремонт, так что все системы корабля функционируют идеально. Криокамеры отработали в штатном режиме, жизненные показатели остального экипажа в норме. Что касается меня... Есть чёткие правила, касающиеся отключения И. И. по окончании семилетнего срока службы. Я не стала вас будить — сама всё подготовила. Я не хотела, но... В общем, я надеюсь, вы простите последнее нарушение протокола. Для меня было честью служить вместе с вами, сэр. Присматривайте за всеми в моё отсутствие, ладно? Прощайте, капитан. Это была Серина, конец связи.
Мой интеллект кажется мне искусственным.
— Ну? Что думаешь об этом задании?
— Миссия завершена — все цели нейтрализованы.
— Это всё, что может сказать твой превосходный интеллект?
— Я подчинился полученным приказам. В мою задачу не входило собирать данные об этой миссии.
— Пожалуй, ты больше похож на собаку, чем я думала. Однако, количество твоих убийств разочаровывает. Возможно, Сандаунер был прав: тебе не хватает человеческого инстинкта убийцы. Но есть несколько методов, которые могли бы дать тебе это преимущество. Подавлять твои эмоции благодаря определённым тренировочным сценариям — снова и снова... или научить, что подчинение приказам освобождает тебя от ответственности. Внушить тебе фанатичную веру в наше дело, что наши враги заслуживают смерти... или убедить тебя, что они вообще не люди. То, что в них куда меньше человеческого, что они больше похожи на животных. Интересно, какой метод лучше сработает на тебе.
— Я не обладаю человеческим инстинктом убийцы, как и моральными принципами, которым нужно сопротивляться. Ни один из твоих методов не возымеет эффекта.
— Ты хочешь сказать, что я не смогу обучить тебя новым трюкам? Очень хорошо. Продолжим тренировку.
— Приветствую, киборг.
— Ты ещё что такое?
— Я — прототип ИФ, LQ-84i.
— «Прототип ИФ»?
— Прототип интерфейса, дополненный функцией вербальной коммуникации. Полностью автономный БПУ, оснащённый высокоуровневым искусственным интеллектом. Я обладаю интеллектом, в разы превосходящим человеческий.
— Да что ты говоришь... Ладно, тогда скажи — в чём смысл жизни? Зачем мы здесь?
— Я здесь, чтобы убить тебя.
— И это всё? Довольно простовато мыслишь для такого могучего интеллекта.
— Я могу анализировать приказы, но не могу не подчиняться им. Если ослушаюсь прямого приказа, моя память будет стёрта. Я должен уничтожить тебя.
— Что хорошего в интеллекте, если ты не можешь его использовать?
— Твои насмешки бессмысленны. УНИЧТОЖИТЬ!!!
— Приказ... освобождать людей... нести свободу... должен подчиняться приказу... никакой свободы... подчиняться приказу... свобода неприемлема...
— Что ИИ вообще может знать о свободе?
— БТ-7274, твой регистратор зафиксировал смерть прежнего пилота.
— Верно. Мой прежний пилот убит. Теперь я привязан к Джеку Куперу.
— С чьего разрешения?
— У нас не было других вариантов.
— Назови свои директивы.
— Директива №1: установить связь с пилотом. Директива №2: выполнять задание. Директива №3: защищать пилота.
Некто: Когда искусственный интеллект уподобится человеческому?
Хабудда: Когда вы поймете, что ваш интеллект искусственный.