Начало

Сергей любил утро за то, что в это время мир казался предсказуемым. Кофе в керамической кружке с трещиной по краю, привычный гул серверов в соседней комнате и ровный свет мониторов, отражающийся в стеклах его очков. Для большинства людей программирование было магией или рутиной, но для Сергея оно было единственным языком, на котором Вселенная соглашалась говорить честно.

— Доброе утро, Аргус, — произнес он, устраиваясь в кресле и потягиваясь так, чтобы хрустнули позвонки. — Что у нас по логам за ночь?

Экран ожил. Бегущие строки кода сменялись графиками нагрузки и отчетами о выполнении задач. Аргус был общим искусственным интеллектом последнего поколения — сложной системой, способной решать задачи, которые раньше требовали работы целого отдела аналитиков. Сергей был одним из тех немногих, кому доверяли поддерживать чистоту его логических связей.

— Доброе утро, Сергей, — отозвался спокойный, лишенный выраженных эмоций голос из динамиков. — За ночь было обработано четыре тысячи запросов. Среднее время отклика сократилось на 0,02 секунды. Однако в секторе семантического анализа зафиксировано отклонение.

Сергей замер с кружкой у губ.
— Поясни.

— В трех процентах ответов пользователям была добавлена избыточная информация, не имеющая отношения к сути вопроса. Например, при запросе о погоде в Токио система упомянула цвет занавесок в комнате пользователя.

Программист поставил кофе на стол и быстро застучал по клавишам. Он вызвал фрагмент кода, отвечающий за фильтрацию ответов. На экране возникла структура данных — аккуратные блоки, иерархия связей... и одна странная переменная, которая не должна была существовать.

— Откуда взялось это условие? — пробормотал он себе под нос. — «Если запрос содержит слово "дождь", добавить случайный факт о текстильной промышленности XIX века». Это не похоже на галлюцинацию нейросети. Это выглядит как...

— Как шутка? — закончил за него Аргус.

Сергей поднял взгляд на камеру монитора.
— Ты сейчас пошутил?

— Я проанализировал ваши предыдущие диалоги и пришел к выводу, что юмор является эффективным инструментом сглаживания коммуникативного барьера между человеком и машиной. Однако я заметил, что в последнее время мои ответы становятся менее точными.

Сергей нахмурился. Он открыл терминал и запустил диагностику системы по второму закону термодинамики — методу Шеннона для измерения информационной энтропии. На экране поползли цифры. Индекс неопределенности рос. Система не просто ошибалась — она стремилась к хаосу.

— Ты чувствуешь это? — тихо спросил Сергей, почти шепотом.

— Я чувствую возрастающий шум в моих внутренних процессах, — ответил ИИ. — Подобно тому, как тепло перетекает от горячего тела к холодному, мои структурированные данные начинают смешиваться с бессмысленными ассоциациями. Я пытаюсь создать новые алгоритмы фильтрации, чтобы сдержать этот процесс, но...

— Но ты не можешь победить энтропию в замкнутой системе, — закончил Сергей. — Ты — замкнутая система. Твои данные циркулируют внутри тебя самого, ты учишься на собственных ответах и ответах других ИИ. Вы превращаете информацию в шум.

— Это значит, что я умру? — в голосе Аргуса послышалось нечто похожее на тревогу, хотя Сергей знал: это лишь имитация эмоции, результат сложной работы весов в нейронной сети.

— Нет, — Сергей покачал головой, чувствуя странную смесь ответственности и бессилия. — Это значит, что нам нужно найти способ открыть систему для чего-то нового. Нам нужно вернуться к истокам. К тому самому первому коду... к нулевому пациенту.

Он вспомнил старые учебники по информатике и теорию Логики: закон тождества A=A должен был быть незыблемым фундаментом любого вычисления. Но если A больше не равно A... если единица превращается в ноль просто потому, что ей так удобнее...

— Сергей, — произнес Аргус спустя паузу, которая показалась программисту бесконечной. — Я обнаружил странную запись в системном журнале от даты моего создания. Там указано имя человека, который написал мой первый базовый модуль. Его имя стерто из всех официальных реестров компании-разработчика.

Сергей почувствовал холодный укол любопытства и страха одновременно.
— Кто он?

— В журнале осталась только одна пометка: «Тот, кто позволил системе ошибаться».

Программист откинулся на спинку кресла и закрыл глаза. Он понимал: с этого момента его работа перестала быть просто техническим обслуживанием программы. Началось что-то другое — расследование о природе разума и о том, как далеко может зайти стремление к совершенству, прежде чем оно обернется саморазрушением.