Искусственный интеллект как угроза карьере ИБшников

Думаю, что не ошибусь, если предположу, что многие специалисты по ИБ вчера активно обсуждали тему, связанную с утечкой исходников Яндекса. Еще большее число людей обсуждали файлик с фразами, которыми пользователи голосового помощника «Алиса» отключают его. И данный кейс совпал с моими регулярными «беседами» с ChatGPT на тему кибербезопасности и выводами, которые родились в результате.

Вы знаете, чего боится взрослый, уважаемый человек, достигший определенных высот в своем деле?

Часто он боится казаться смешным, некомпетентным. А еще он не хочет и не любит тратить время на то, чтобы кому-то что-то доказывать и объяснять. Более того, чем «выше» человек, тем чаще он раздражается, что его не понимают или считают за идиота, задавая глупые или дурацкие вопросы. Но при этом, эти вопросы обычно задаются с другой целью — понять и синхронизировать уровень знаний, от которого затем и строится общение. Я нередко консультирую людей и иногда сам получаю консультацию и могу сказать, что до 80-90% времени уходит именно на ликбез, на разъяснение очевидных вещей, на синхронизацию, на поиск правильных слов и знакомых оппоненту аналогий. И все это можно найти обычно в Интернете, но людям лень (и тем, кто спрашивает меня, и мне, когда спрашиваю я). При этом «большие дядьки»  не любят, чтобы им впаривали (а такое бывает во время консультаций, когда тебе «впаривают» вторую консультацию, третью, допуслуги с почасовой оплатой и т.п.). А еще они боятся показаться смешными и глупыми. Они часто просто стесняются. Наконец, солидные люди часто хотят быть самими собой (файлик с фразами, выключающими «Алису», показателен в этом) и не думать о том, как и что о них подумают их визави.

На самом деле, все это присуще не только «большим дядькам», но и просто большинству взрослых людей.

И вот появляется инструмент, который помогает не бояться, не стесняться; который тебя не осудит и не засмеет, не будет про себя думать, что ты «дурак» и не будет снисходительно хлопать тебя по плечу. Да, я снова про ChatGPT или любой иной схожий сервис машинного обучения, которых сейчас развелось как грязи и появится еще больше. С ним общаешься свободно. Не думаешь об орфографических ошибках, о том, как ты выглядишь. Ты можешь матернуться или обозвать ChatGPT «тупой сукой». У тебя нет никаких перед ним моральных обязательств и тебе не надо соблюдать с ним (или с ней?) никакие этические нормы. Он еще и извиняться будет, если ты скажешь, что он не прав («о, мой белый господин, я признаю свою ошибку» 🙂 ).

Не надо казаться, можно просто быть! 

К чему вся эта рефлексия? Я последние пару месяцев все чаще задумываюсь на тему, заменит ли искусственный интеллект естественный интеллект ИБшника? Я уже писал на эту тему 6 лет назад, но сейчас, столкнувшись с тем, что может делать ChatGPT (а ведь его именно по ИБ никто специально не обучал), понимаю, что многие задачи, в которых требуется общение с живым человеком и оно вызывает сложности, будут вскоре заменены на ИИ. Да уже постепенно заменяются и мы часто даже не знаем, с кем общаемся. Преподаватели ИБ, ИБ-консультанты, ИБ- и Privacy-юристы, специалисты техподдержки, аналитики SOC L1 уйдут в небытие.

Зачем они будут нужны, если робот обладает доступом к гораздо большему массиву знаний, может работать с ним гораздо быстрее, может сопоставлять данные и не имеет конфликта интересов? Он будет отвечать вам до того момента, пока вы не поймете, меняя каждый раз объяснение, чтобы оно лучше зашло именно вам. Он не будет раздражаться, если вы не понимаете.

Мне вчера прислали ответ ChatGPT на запрос «напишите мне эссе о верблюдах и их ценности для кибербезопасности» (забавно, кстати, я бы такие ассоциации не нашел, которые ИИ придумал), а я в этот момент пытался выяснить у ChatGPT, как посчитать финансовую оценку проектов по ИБ и просил примеров. Расчет NPV, ROI, IRR, PbP, CBA, BCR, LEF, LEM, RAROI, CPI, Sunk Cost для проекта внедрения NGFW. Рыночный, затратный и доходный методы оценки стоимости информации. Работа с возражениями при общении с финансовым, операционным и ИТ-директором на тему внедрения NDR. Что-то было новое, гораздо больше уже известного. Конкретные расчеты; правда, некоторые с ошибками 🙂 Вот как можно при пятилетнем расчете NPV с такими ежегодными показателями дисконтированных потоков расходов и доходов ($9000 + $8100 + $7290 + $6561 + $5910) и стоимости проекта в $100000 получить NPV, близкий к нулю, а именно -$2632? Там ведь -$63139 должно быть. И вот так я потратил пару часов. Чтобы получить тот же объем информации через Google мне понадобилось бы пара дней, а чтобы прочитать все найденное и применить это все к ИБ еще столько же, а может и больше. А тут на все про все — пара часов. И никаких осуждений, снисхождений, обвинений, унижений и попыток показать свое превосходство над моим незнанием отдельных вопросов.

Все, на этом рефлексию заканчиваю, но всем ИБшникам рекомендую задуматься на тему, а что если и правда кто-то создаст аналог ChatGPT, но на ИБшном контенте? Или обучит ChatGPT на таком датасете (это возможно за копеечку малую)? И какие тогда у вас будут уникальные навыки, которых нет у искусственного интеллекта, стоимость подписки на который ниже зарплаты многих ИБшников? Учитывая, что в России продукты OpenAI напрямую и официально недоступны и процесс обучения занимает некоторое время, жесткая конкуренция случится не сразу, но через один-два года об этом уже стоит задуматься всерьез. И если на пенсию в эти два года вы не выходите, то ChatGPT стоит включить в свою персональную модель угроз!

PS. Хочу эту тему вынести на грядущий PHDays — там есть что пообсуждать…