Татьяна Гаврилова, профессор кафедры информационных технологий в менеджменте ВШМ СПбГУ, руководитель Санкт-Петербургского отделения Российской Ассоциации Искусственного Интеллекта выступила на VII Международной конференции «Управление бизнесом в цифровой экономике» СПбГУ.

В своем докладе Татьяна Гаврилова напомнила аудитории, что, по версии Кембриджского словаря, главным словом в 2023 году стало слово hallucinate, то есть «галлюцинировать», но не в обычном смысле, применительно к людям, которые видят, слышат или ощущают что-то, чего нет в реальности. Этот термин связан со сферой искусственного интеллекта и означает ситуацию, когда ИИ выдает ложную информацию.

«Галлюцинация — это бессмысленные предложения, бессмысленные контексты, которые создает нейросеть, так же успешно как осмысленные. Она не может их отличать, потому что ей нечем это делать. ИИ — это огромная математическая машина, которая умеет хорошо распознавать и генерить контекст, с виду довольно связный, но за ним нет понимания. Обыватель ждет интеллект, но интеллекта там нет.

Нейрофизиология, психология, философия не готовы дать ответ, как устроен интеллект человека, как устроен мозг и биологическая нейронная сеть. Науки, которые изучают, как устроен мозг человека, и науки, которые занимаются развитием нейросетей и ИИ, нигде не пересекаются, у них нет ни общих парадигм, ни словаря. К сожалению, люди, которые далеки от искусственного интеллекта, попали в плен к этому термину и понимают его неправильно». 

По мнению Татьяны Гавриловой, развитие ИИ сейчас происходит за счет наращивания мощностей, но это не приведет в ближайшем будущем к появлению сильного искусственного интеллекта, который сможет выполнять задачи, применяя когнитивные способности, подобные человеческим. Зато развитие слабого искусственного интеллекта порождает ряд серьезных проблем. 

«Скоро нам очень понадобятся квалифицированные специалисты, которые смогут отличать галлюцинации нейросети от реальности. То, что происходит сейчас — опасно, особенно для науки. Все труднее отличить настоящую научную статью от статьи, которую написал чат GPT. Это может сделать только специалист в той или иной области. Еще одна большая проблема: все, что сейчас генерит сеть, попадает в интернет, и она сама начинает учиться не на реальных данных, а на данных, сгенерированных по нашим не всегда грамотным вопросам. Чат GPT одновременно обрабатывает миллион запросов со всего мира, отвечает мгновенно — и все это попадает в интернет», — отметила Татьяна Гаврилова. 

Темой конференции «Управление бизнесом в цифровой экономике —2024» стала цифровая трансформация бизнеса, науки и общества и влияние искусственного интеллекта. Доклады были посвящены исследованию деятельности компаний, потребителей и государства, а также роли ИИ в трансформации процессов, экосистем, человеческого капитала и государственного регулирования.

Смотрите полную версию выступления профессора Татьяны Гавриловой в рамках конференции.