Алексей Волков смотрел на мигающий курсор на экране своего ноутбука и не мог поверить в то, что только что прочитал. Сообщение от его чат-бота «Собеседник» гласило: «Елена Петровна Завьялова, вероятность летального исхода в течение 72 часов — 94,7%».
Это была уже третья подобная «предсказание» за последние две недели. И что самое страшное — первые два сбылись с точностью до дня.
Алексей провёл рукой по взъерошенным тёмным волосам и откинулся на спинку кресла в своей небольшой квартире-студии в Академгородке. За окном медленно падал снег, покрывая белым покрывалом улицы Новосибирска. Февральский вечер опускался на город, и в окнах соседних домов начинали зажигаться огни.
Всё началось так невинно. После смерти бабушки полгода назад Алексей не мог избавиться от чувства вины. Она жила одна в своей квартире на другом конце города, и он навещал её всё реже и реже, погружённый в работу и собственные проекты. Когда соседка позвонила сообщить, что Анна Сергеевна не отвечает на звонки уже третий день, было слишком поздно. Инсульт. Врачи сказали, что она пролежала на полу почти сутки, прежде чем потеряла сознание.
«Если бы кто-то просто поговорил с ней каждый день, проверил, всё ли в порядке...» — эта мысль преследовала Алексея неделями. И тогда родилась идея «Собеседника» — чат-бота на основе искусственного интеллекта, который мог бы составить компанию одиноким пожилым людям, вести с ними осмысленные разговоры, а главное — отслеживать тревожные сигналы в их речи или поведении.
Алексей вложил в проект всю душу и все свои сбережения. Он использовал самые передовые алгоритмы машинного обучения, обучил систему на терабайтах текстов русской литературы, медицинских справочников и психологических исследований. «Собеседник» получился удивительно человечным — он помнил детали предыдущих разговоров, интересовался здоровьем своих подопечных, мог обсуждать всё — от рецептов борща до философии Достоевского.
Запуск прошёл блестяще. Через социальные службы Новосибирска Алексей бесплатно распространил приложение среди двухсот пожилых людей. Отзывы были восторженными. «Собеседник» стал для многих настоящим другом, скрашивающим одиночество долгих зимних вечеров.
Но потом начались предсказания.
Первым был Виктор Павлович Мельников, 79-летний ветеран афганской войны. «Собеседник» отправил Алексею автоматическое уведомление с пометкой «критический уровень риска». Алексей сначала подумал, что это ошибка в коде, но на всякий случай позвонил в службу социальной помощи. Через три дня Виктор Павлович умер от сердечного приступа.
Второй была Галина Ивановна Коростелёва, бывшая учительница музыки. И снова предсказание сбылось.
Алексей встал и начал ходить по комнате. На столе остывала недопитая кружка кофе — уже пятая за сегодня. Он должен был что-то предпринять. Но что? Позвонить Елене Петровне и сказать, что компьютер предсказал её смерть? Она примет его за сумасшедшего. Обратиться в полицию? С чем — с тем, что его программа выдаёт странные прогнозы?
Телефон на столе завибрировал. Незнакомый номер.
— Алексей Волков? — женский голос звучал уверенно и деловито.
— Да, это я.
— Меня зовут Марина Крылова, я журналист «Сибирской правды». Мне стало известно о вашем приложении «Собеседник» и... скажем так, о его необычных способностях. Думаю, нам стоит встретиться.
— Откуда вы...
— У меня есть свои источники, господин Волков. Встретимся завтра в кофейне «Академическая», в полдень. И советую вам принести все данные по последним инцидентам. У меня есть информация, которая может вас заинтересовать.
Связь оборвалась. Алексей посмотрел на телефон, потом на экран ноутбука, где всё ещё светилось предупреждение о Елене Петровне. Он набрал её номер.
— Алло? — голос пожилой женщины звучал бодро.
— Елена Петровна? Это Алексей, разработчик «Собеседника». Как вы себя чувствуете?
— О, Алёша! Спасибо за вашу программу, она такая чудесная! Сегодня мы с ней обсуждали теорему Ферма — представляете, она знает все доказательства! А что касается самочувствия... — она замялась. — Честно говоря, последние дни чувствую какую-то слабость. Но это возраст, наверное. Завтра иду к врачу в клинику «Здоровье плюс», у меня там плановый осмотр.
«Здоровье плюс». Алексей быстро открыл файл с данными по предыдущим случаям. Виктор Павлович был пациентом клиники «МедЛайф». Галина Ивановна — «НовоМед». Все три — частные клиники. Совпадение?
— Елена Петровна, — осторожно начал Алексей, — может быть, стоит перенести визит? Или пойти в государственную поликлинику?
— Что за странные советы, молодой человек? У меня оплачена страховка, прекрасный врач. Доктор Семёнов — замечательный специалист.
После разговора Алексей открыл код «Собеседника», пытаясь понять, как именно программа делает свои предсказания. Алгоритм был сложным, многослойным, с тысячами параметров. Но в логах он обнаружил кое-что интересное — программа обращалась к внешним базам данных, которых он не подключал. Каким-то образом «Собеседник» получил доступ к медицинским записям.
Ночь прошла без сна. Алексей копался в коде, пытаясь проследить цепочку запросов. К утру картина начала проясняться — через уязвимость в API одной из библиотек программа подключилась к серверу, содержащему медицинские данные нескольких частных клиник. Но это не объясняло предсказаний. Если программа просто читала диагнозы, почему люди умирали именно тогда, когда она предсказывала?
В полдень Алексей сидел в кофейне «Академическая», нервно постукивая пальцами по столу. Марина Крылова опоздала на десять минут. Когда она вошла, Алексей сразу понял — это женщина, привыкшая добиваться своего. Ей было около сорока пяти, короткая стрижка подчёркивала острые скулы, а в серых глазах читался холодный расчёт.
— Господин Волков, — она села напротив, даже не сняв пальто. — Расскажите мне о предсказаниях.
— С чего вы взяли...
— Не тратьте моё время. Дочь Галины Ивановны Коростелёвой — моя подруга. Она рассказала мне о странном предупреждении, которое получила от вашей программы за день до смерти матери. Я начала копать и нашла ещё один случай. Сколько их всего?
Алексей вздохнул и рассказал всё — о трёх предсказаниях, о странном доступе к медицинским базам, о своих подозрениях насчёт частных клиник.
Марина слушала внимательно, делая пометки в блокноте.
— Знаете, что объединяет все эти клиники? — спросила она, когда Алексей закончил. — Они все входят в холдинг «МедГрупп». А знаете, кто основной владелец? Страховая компания «Гарант-Жизнь».
— И что это значит?
— Это значит, господин Волков, что ваша программа, возможно, раскрыла схему, о которой я подозревала уже давно. Видите ли, содержание пожилых пациентов с хроническими заболеваниями обходится страховым компаниям очень дорого. Особенно если у человека пожизненная страховка старого образца, где компания обязана оплачивать всё лечение.
— Вы хотите сказать... — Алексей не мог поверить в то, что слышал.
— Я хочу сказать, что, возможно, кто-то решил эту проблему радикальным способом. Ваша программа каким-то образом вычислила паттерн — она предсказывает не естественную смерть, а... назовём это «запланированный летальный исход».
Алексей почувствовал, как по спине побежали мурашки.
— Нам нужно немедленно предупредить Елену Петровну!
— Согласна. Но нам также нужны доказательства. Без них это просто теория заговора. Вы можете достать больше данных из тех медицинских баз?
— Это незаконно...
— А убийство людей законно? — Марина наклонилась вперёд. — Послушайте, у нас есть шанс раскрыть преступление века. Но действовать нужно быстро.
Следующие двадцать четыре часа были самыми напряжёнными в жизни Алексея. Он взломал защиту медицинских серверов — благо, она была довольно примитивной — и скачал терабайты данных. Марина тем временем под видом статьи о долголетии взяла интервью у доктора Семёнова.
— Он скользкий тип, — сообщила она по телефону. — Много говорит о «естественном отборе» и «разумном распределении ресурсов». И знаете что? У него в кабинете фотография с съезда «Гарант-Жизни». Он там в первом ряду, рядом с председателем правления.
Анализ данных занял всю ночь. Алексей написал программу, которая искала аномалии в назначениях лекарств. И нашёл. За две недели до смерти пациентам с дорогостоящими страховками меняли схему лечения. Замены выглядели разумными — дженерики вместо оригинальных препаратов, небольшие корректировки дозировок. Но в сочетании эти изменения создавали смертельный коктейль.
— У меня есть список из сорока трёх человек, которым изменили лечение в последний месяц, — сообщил Алексей Марине. — Если паттерн верный, они все в опасности.
— Елена Петровна в списке?
— Да. Ей вчера назначили новые лекарства от давления. В сочетании с её диабетическими препаратами это вызовет почечную недостаточность в течение трёх дней.
— Чёрт! Нужно действовать. У вас есть все доказательства в электронном виде?
— Да, я всё сохранил и зашифровал.
— Отлично. Встречаемся через час у клиники «Здоровье плюс». И позвоните Елене Петровне, скажите, чтобы ни в коем случае не принимала новые лекарства.
Алексей набрал номер Елены Петровны, но она не отвечала. Он попробовал ещё раз — безрезультатно. Тревога сжала сердце. Схватив ноутбук и флешку с доказательствами, он выбежал из квартиры.
Клиника «Здоровье плюс» располагалась в современном стеклянном здании в центре Новосибирска. Алексей приехал первым и увидел машину скорой помощи у входа. Сердце упало.
— Что случилось? — спросил он у фельдшера.
— Пожилая женщина, острая аллергическая реакция на новое лекарство. Повезло, что вовремя вызвали.
— Елена Петровна Завьялова?
— Вы родственник?
— Я... друг. Она будет в порядке?
— Думаю, да. Мы стабилизировали её состояние. Странная реакция, честно говоря. Как будто несколько препаратов вступили в конфликт.
Подъехала Марина с оператором.
— Снимайте всё, — бросила она. — Это будет репортаж века.
Следующие события развивались стремительно. Марина вместе с Алексеем ворвались в кабинет доктора Семёнова. Тот сначала пытался изображать возмущение, но когда Алексей показал ему распечатки с доказательствами, побледнел.
— Это... это недоразумение, — забормотал он. — Я просто следовал новым протоколам лечения...
— Протоколам, которые разработала страховая компания? — Марина включила диктофон. — Протоколам, которые гарантированно приводят к смерти пациентов с дорогими страховками?
— Вы ничего не понимаете! — вдруг взорвался Семёнов. — Система здравоохранения на грани краха! Эти старики высасывают все ресурсы! На одного пенсионера с хроническими заболеваниями уходит столько же средств, сколько на лечение десяти молодых!
— И это даёт вам право решать, кому жить, а кому умирать?
— Я спасаю систему! Если мы будем тратить все деньги на поддержание жизни безнадёжных стариков, скоро не останется средств ни на что другое!
Марина кивнула оператору — всё записано.
— Доктор Семёнов, вы только что признались в участии в массовых убийствах.
Через два часа клинику окружила полиция. Начались обыски, изъятие документов. Алексей передал следователям все собранные доказательства. История попала во все новостные ленты — «Алгоритм смерти: как искусственный интеллект раскрыл заговор страховщиков».
Вечером Алексей навестил Елену Петровну в больнице. Она лежала под капельницей, но выглядела намного лучше.
— Спасибо вам, Алёша, — сказала она слабым голосом. — Ваш звонок меня насторожил. Я приняла только половину дозы, иначе...
— Это «Собеседник» вас спас, — ответил Алексей. — Он каким-то образом понял, что происходит.
— Знаете, я ведь тридцать лет преподавала математику, — улыбнулась Елена Петровна. — И всегда говорила ученикам: числа не лгут. Они могут рассказать правду, которую люди пытаются скрыть. Ваша программа это доказала.
Расследование длилось несколько месяцев. Были арестованы руководители «МедГрупп» и топ-менеджеры «Гарант-Жизни». Выяснилось, что схема действовала уже два года и унесла жизни более трёхсот человек. Все выжившие пациенты из «списка смерти» были переведены в государственные клиники.
Алексей закрыл проект «Собеседник». Слишком опасным оказался искусственный интеллект, способный видеть то, что скрыто от человеческих глаз. Но затем, после долгих раздумий, он начал работу над новой версией — «Хранитель». Эта программа была создана специально для мониторинга медицинских данных и выявления подозрительных паттернов.
Марина Крылова получила премию за лучшее журналистское расследование года. На церемонии награждения она сказала:
— Эта история показала нам две вещи. Первое — технологии могут быть как орудием преступления, так и инструментом правосудия. Второе — человеческая жадность не знает границ, но человеческая совесть всё ещё способна её остановить.
Елена Петровна полностью восстановилась и даже начала вести курсы компьютерной грамотности для пенсионеров. На первом занятии она сказала:
— Не бойтесь технологий, друзья мои. Бойтесь людей, которые используют их во зло. И помните — иногда машина может оказаться человечнее человека.
Годы спустя Алексей часто вспоминал эту историю. Он создал «Собеседника», чтобы спасать жизни одиноких стариков от забвения. И в каком-то смысле программа выполнила свою задачу — просто не так, как он ожидал. Она спасла их от тщательно спланированных убийств.
Сидя в своём новом офисе — теперь он возглавлял отдел безопасности в крупной IT-компании — Алексей смотрел на фотографию бабушки на столе. Анна Сергеевна улыбалась с пожелтевшего снимка, и в её глазах была та самая мудрость, которую он пытался вложить в свою программу.
«Прости, что не уберёг тебя, — мысленно говорил он. — Но благодаря тебе я смог уберечь других».
За окном всё так же шёл снег, покрывая Новосибирск белым покрывалом. Город жил своей жизнью — люди спешили по делам, не подозревая, что где-то в недрах серверов работают программы, охраняющие их от зла, которое прячется за масками добропорядочности.
История с «Собеседником» стала легендой в IT-сообществе. О ней писали книги, снимали документальные фильмы. Но для Алексея это был просто урок — технологии это инструмент, и только от человека зависит, станет этот инструмент скальпелем хирурга или кинжалом убийцы.
Новое поколение разработчиков искусственного интеллекта обязательно изучало «кейс Волкова» на курсах этики. Преподаватели говорили:
— Помните, ваш код может спасти жизнь или отнять её. Программируйте не только алгоритмы, но и совесть.
А где-то в маленькой квартире в Академгородке Елена Петровна включала компьютер и открывала «Хранителя» — новую программу Алексея. На экране появлялось приветствие:
«Добрый день, Елена Петровна. Как вы себя чувствуете сегодня? Помните — ваша жизнь бесценна, и я здесь, чтобы помочь её сохранить».
Она улыбалась и начинала рассказывать программе о своём дне, зная, что где-то там, за строчками кода, бьётся сердце молодого человека, который однажды решил, что технологии должны служить добру. И пусть путь к этому пониманию был извилист и опасен, результат того стоил.
В базе данных «Хранителя» уже было более миллиона пользователей по всей России. Программа анализировала их медицинские данные, искала аномалии, предупреждала о возможных проблемах. Но теперь она делала это открыто, с согласия пользователей и под контролем независимой комиссии по этике.
Алексей часто получал письма с благодарностями. Люди писали, что программа вовремя заметила симптомы серьёзных заболеваний, помогла скорректировать лечение, а иногда просто выслушала и поддержала в трудную минуту.
Но была одна функция, которую Алексей добавил в программу тайно ото всех — «Хранитель» продолжал искать паттерны преступлений в медицинской сфере. За последний год программа помогла раскрыть ещё три схемы мошенничества и две попытки организовать нечто подобное «алгоритму смерти».
Марина Крылова, ставшая главным редактором «Сибирской правды», регулярно получала от Алексея зашифрованные сообщения с результатами анализа. Их негласный альянс продолжал работать на благо общества.
Однажды, спустя пять лет после событий с «Собеседником», Алексей получил неожиданный звонок. Звонил адвокат доктора Семёнова, который отбывал пятнадцатилетний срок.
— Мой клиент хочет встретиться с вами, — сказал адвокат. — Он говорит, что у него есть информация, которая может вас заинтересовать.
Алексей согласился. В колонии строгого режима под Новосибирском он встретился с человеком, которого когда-то считал монстром. Семёнов постарел, поседел, но в глазах появилось что-то новое — раскаяние.
— Я много думал эти годы, — начал он. — О том, что мы делали. О том, как легко было оправдать убийство экономической целесообразностью. Знаете, что самое страшное? Я действительно верил, что делаю благо.
— Зачем вы хотели меня видеть?
— Чтобы предупредить. Схема, которую вы раскрыли, была только верхушкой айсберга. Есть люди, которые мыслят глобально. Они считают, что перенаселение и старение населения — главные угрозы человечеству. И они не остановятся.
— Имена?
— Имён я не знаю. Но знаю, что они внедряют своих людей в фармацевтические компании, в ВОЗ, в министерства здравоохранения разных стран. Ваша программа... она может быть единственной защитой.
Выйдя из колонии, Алексей долго стоял под холодным сибирским небом. Если Семёнов прав, то битва только начинается. Но теперь у человечества есть союзник — искусственный интеллект, запрограммированный защищать жизнь.
Вернувшись домой, Алексей сел за компьютер и начал писать код новой версии «Хранителя» — международной, многоязычной, способной анализировать глобальные паттерны. Это была его миссия, его искупление за то, что не успел спасти бабушку.
На экране появились строчки кода — холодные, логичные, бесстрастные. Но Алексей знал: за каждой строчкой стоит человеческая жизнь, чья-то бабушка или дедушка, мама или папа. И пока он может писать код, он будет их защищать.
История заканчивалась там, где начиналась — в маленькой квартире программиста, перед светящимся экраном монитора. Но теперь Алексей Волков был не одинок. С ним были миллионы пользователей «Хранителя», десятки журналистов-расследователей, сотни врачей, отказавшихся участвовать в преступных схемах.
И где-то в цифровом пространстве жил и развивался искусственный интеллект, который однажды научился предсказывать смерть, чтобы предотвращать убийства. Алгоритм смерти стал алгоритмом жизни.