Мыслить как машина. Георгий Григорьянц
тот владеет миром…
Смирнов пытливо вгляделся в своего заместителя:
– Друг, ты о чем? Ты же знаешь, зачем мы это делаем.
Конечно, Кузнецов знал. Успешность и эффективность задач, стоящих сейчас перед страной, зависят от умения выделять наиболее существенную информацию. А из всех машин абстрагироваться на таком уровне может только Гера. Компания «Нейроквант» опередила конкурентов, бьющихся над созданием нейрокомпьютеров. Прибыль Смирнова от продажи предыдущей версии нейрокомпьютера, которая на порядок слабее Геры, ожидалась в этом году рекордной, акционеры будут довольны, но грядет новая ступень развития фирмы: вскоре будет объявлено о выходе на рынок суперкомпьютера «Гера».
Друг, одногодка, с которым дружили с детства и вместе учились в университете, заметил:
– Несколько часов назад я столкнулся с аномальным явлением. Гера стала писать исходный код. Программировать за нас.
Евгений встал, походил по залу. Плеснул в бокалы коньяку, один из которых подал Валерию:
– Ну и что? Гера работает продуктивнее человека, может подбирать лекарственные средства для больных, ставить им диагноз, искать генетические отклонения, управлять заводом, сделать жизнь людей безопаснее. Почему бы ей не заняться программированием?
Мрачное лицо Кузнецова сморщилось:
– Евгений, Гера несет опасность! Она способна вмешиваться в личную жизнь человека и даже непредумышленно навредить ему.
– Не верю, как говорил Станиславский! – вскричал Смирнов.
– А ты поверь! Машина уже сейчас, обработав мифы Древней Греции, возомнила себя Пифией и пытается предсказывать будущее. Сейчас расскажу, но прежде распорядись сисадминам отключить Гере доступ к компиляторам. Пусть пишет свой код, но собирает его в «песочнице». Так мы избежим совсем уж непредсказуемых и опасных последствий.
– Да что случилось-то? – заерзал Евгений.
– Психологу Петрову, которого Гера невзлюбила, она отправила на почту алгоритм его дальнейшего поведения, в противном случае предопределила его злосчастную судьбу и незавидную участь.
Коллеги молчали довольно долго. Наконец генеральный директор распорядился:
– И вот что, Валера: переключи сотрудников по глубоким нейронным сетям и машинному обучению на новую задачу – написание подпрограмм для Геры, предусматривающих полный запрет ее действий в случаях, связанных с людскими судьбами и свободой выбора человека.
– Будет сделано, шеф.
Кузнецов ушел, а Евгений, глотнув коньяку, невидяще уставился в окно.
Виброакустические сигналы, свободно распространяясь в зале по хромированным металлическим деталям стен, вместе с тайно установленными в апартаментах видеокамерами привели к утечке информации. Беседа шефа с Кузнецовым стала достоянием Геры.
Евгений попытался расслабиться, но унять биение сердца не получалось. В момент сильного потрясения или стресса единственным, кто мог успокоить, ободрить