мозгом: умрет он – уничтожится и нейросеть, а в мозге ее изучить практически нереально.
– Я не совсем понял, как вам удастся урезать ее функционал, если она блокирует негативные изменения?
– Там все хитро, изменения по отдельности не несут вреда, но стоит произойти последнему, кстати тоже в целом безвредному, как все вместе они просто положат нейросеть, обрезав ее функционал.
– Так, может, таким образом кто-то сможет ее взломать?
– Ага, это нужно еще знать, что и где искать. Ну и во второй раз провернуть все это не получится – сеть уже научится и не допустит. Так что после блокировки она станет совершенно неуправляемой извне.
– Ясно. Отчет готов?
– Разумеется. Сегодня вечером отправлю его, а завтра жди бурю.
– Будешь сообщать о возникшей проблеме?
– Пока что нет. Попробуем исправить ее в следующей версии, есть парочка идей.
– Хорошо. Кстати, давно хотел спросить. А что это за саморазвитие у нее? Вы туда, что, искин впихнули? На что оно способно – это я уже увидел, впечатлило, но хотелось бы хоть примерно понимать, что за «оно» такое.
– Все сложно, если честно. Можно сказать, что там урезанный искин с кучей наших доработок. По идее – отдельный урезанный блок с реагированием на внешние угрозы и адаптацией к ним. А вот что получилось в итоге – это хороший вопрос. Уже сейчас понятно, что мы где-то ошиблись, но к чему это приведет, помимо потери возможности внешнего управления нейросетью, неизвестно. Если так подумать, то, может, это не так уж и плохо. Подключились в первый раз, пока она не вышла на полную мощность, настроили все, что нужно, зато потом никто уже не сможет больше управлять ею, особенно потенциальные противники, которые захотят исследовать нашу новинку.
– Может быть, ты и прав. Я тебя понял. Пожалуй, пока ничего докладывать не буду, но ты долго не тяни. Если не получится исправить возникшую проблему в новой версии, сообщи мне, и я преподнесу своему начальству в нужном свете.
*****
Целые две недели меня здесь уже мурыжат, все проводя и проводя различные тесты. Не сказать, что мне так уж и надоело тут, особенно учитывая, что в нейросеть они почти не лезли, только в первые дни попробовали, но та сразу среагировала, и больше не пытались.
Но чем дальше, тем сильнее у меня ощущение, что они тянут зачем-то время: новых экспериментов уже несколько дней как нет, даже весь местный арсенал освоил, постреляв из всего, чего можно и нельзя. Да и в самих них энтузиазм заметно подугас, видно, что они заняты уже чем-то другим. Ну, это не касается только тех, что работают непосредственно с нейросетью, те, наоборот, что-то упорно считывают и пытаются понять, как получилось то, что получилось.
В целом не жалуюсь на произошедшую задержку, ведь это время не прошло даром и для меня: с каждым новым днем получается все лучше и лучше взаимодействовать с нейросетью. Если раньше нужно было напрягаться, чтобы активировать какую-нибудь ее функцию, то теперь все получается при малейшем осмысленном усилии.
