«Нам придется решать этические проблемы, когда ИИ станет разумным»: Т-Банк, Яндекс и Сбер в интервью Private Talks
Т-Банк, Яндекс и Сбер, тройка лидеров ИИ в России, и экономист Александр Аузан — о том, какое место занимает РФ в мировой гонке ИИ, об отечественных преимуществах и о конкурентном потенциале человека, в новом выпуске Private Talks.
Какое место занимает Россия в мировой технологической гонке?
Александр Крайнов, директор по развитию технологий искусственного интеллекта в Яндексе:
«Сказать сложно. В научной сфере мы сильно проседаем и отстаем. Однако по внедрению существующих, работающих продуктов Россия находится чуть ли не на третьем месте после США и Китая. Если говорить в целом, измерять это непросто, но я уверен, что Россия входит в первую десятку, а дальше всё зависит от критериев оценки».
В командах по ИИ в международных компаниях много российских фамилий
Виктор Тарнавский, директор по искусственному интеллекту Т-Банка:
«Россия всегда была страной с суперсильными технологиями и талантливыми людьми, которые их создают. Вот интересный инсайт: если взглянуть на состав команд по искусственному интеллекту в крупных международных компаниях, там очень много российских фамилий. Искусственный интеллект — это во многом российская дисциплина, известная по всему миру».
Почему России сложно конкурировать в технологической гонке?
Александр Аузан, декан экономического факультета МГУ:
«Экономического ресурса не хватит, потому что нужны критические технологии и деньги. Для страны с 2% мирового ВВП сосредоточить такие ресурсы крайне сложно, особенно в конкуренции с державами, у которых 20—24% мирового ВВП. Они в 10 и более раз экономически мощнее нас. Поэтому основной трудностью остается доступ к технологиям, а наш путь конкуренции — это путь асимметричных решений».
Разумный искусственный интеллект
Виктор Тарнавский, директор по искусственному интеллекту Т-Банка:
«Я верю, что в какой-то момент искусственный интеллект начнет решать задачи и в целом будет умнее человека. На самом деле это уже происходит. Например, ChatGPT справляется с задачами лучше, чем средний человек на планете. Мы просто не осознаем, что этот момент уже наступил.
Другое дело, что до создания AGI еще далеко: нужно придумать мотивацию, построить модели мира. Но однажды появятся ИИ-решения, которые будут сравнимы или превосходить человека. Тогда нам придется сосуществовать с ними и решать этические проблемы, связанные с тем, что технология на базе искусственного интеллекта выйдет и скажет: „Я разумная“».
Обрушения рынка труда из-за ИИ не будет
Александр Аузан, декан экономического факультета МГУ:
«На нынешней фазе генеративного ИИ обрушения рынка труда, которого опасались, не будет. Однако переворот на рынке труда и возникновение рынка работника — это тоже результат цифровых технологий и исследовательских идей. Мы ожидали, что люди потеряют работу, но всё наоборот: на этой фазе люди стали дефицитным ресурсом».
Роботы могут заменить людей только в простых сценариях
Виктор Тарнавский, директор по искусственному интеллекту Т-Банка:
«Роботы действительно заменяют людей, но только в простых сценариях и довольно медленно. Когда задачи становятся сложными, робот, условно говоря, „складывает лапки“ и подключается человек. Это касается всех профессий, не только контакт-центров.
Роботы не столько заменяют людей, сколько помогают им. Искусственный интеллект — просто инструмент, как дрель для рабочего. Ему дали более мощную дрель, и он радуется, ведь теперь может делать больше, зарабатывать больше. Точно так же технологии ИИ помогают человеку быть эффективнее, а не заменяют его».
Появление новых профессий в эпоху ИИ
Александр Крайнов, директор по развитию технологий искусственного интеллекта в Яндексе:
«Сейчас появляется абсолютно новая профессия — AI-тренеры, люди, которые обучают и тренируют искусственный интеллект. Например, если мы говорим о генеративных текстовых сетях, они учатся на текстах. Сначала идет стадия предобучения, когда искусственный интеллект учится воспроизводить тексты из интернета, угадывая следующее слово.
Но описывать тексты, как они представлены в интернете, оказывается зачастую бесполезно: там много мусорных текстов и мало содержательных диалогов, где человек получает новое знание. На этом этапе вступают AI-тренеры. Они создают идеальные примеры для искусственного интеллекта: идеальные диалоги или вопросы-ответы, на которых ИИ дообучается. Благодаря этому он становится не просто умным, но и полезным, начиная отвечать разумно. Это действительно новая и уникальная специальность».
Как искусственный интеллект повышает эффективность труда
Виктор Тарнавский, директор по искусственному интеллекту Т-Банка:
«У нас есть блок копилотов и эффективности, где с помощью технологий мы повышаем эффективность труда профессионалов, которые работают у нас. Самый заметный эффект наблюдается у сотрудников поддержки, продаж и других линейных функций. Основная метрика, которую мы используем, — это проценты повышения их производительности».
Тренд на маленькие модели
Виктор Тарнавский, директор по искусственному интеллекту Т-Банка:
«Сейчас есть тренд на небольшие модели, которые на самом деле работают быстрее, эффективнее решают свои задачи, и разрабатывать их можно на меньшем объеме железа. Вот этот тренд не только у нас, это тренд мировой».
Мультимодальные модели
Андрей Белевцев, старший вице-президент Сбера, руководитель блока «Технологическое развитие»:
«Мы долго говорим про мультимодальность, но сейчас важный этап: мультимодальные модели начинают справляться с задачами во всех модальностях лучше, чем немультимодальные. Раньше, добавляя новую модальность, например анализ картинок, модель начинала понимать изображение, но в текстовых задачах становилась хуже. Теперь мы видим обратный эффект: мультимодальные модели во всех задачах превосходят немультимодальные. Это важнейший шаг».
Можно ли доверять решениям искусственного интеллекта?
Виктор Тарнавский, директор по искусственному интеллекту Т-Банка:
«Вопрос в уровне доверия к решению, которое выносит искусственный интеллект. И искусственный интеллект — это вообще вся область машинного обучения, это область, основанная на вероятностях. Это буквально означает, что она ошибается. Всегда есть вероятность ошибки. Очень сложно сделать настолько хорошо работающую модель, то есть с настолько низкой вероятностью ошибки, чтобы заменить людей в каких-то задачах».
Почему важно критическое мышление при работе с нейросетями?
Александр Крайнов, директор по развитию технологий искусственного интеллекта в Яндексе:
«Нейронные сети — это повод задуматься о критическом мышлении, потому что человек иногда начинает избыточно доверять: раз это искусственный интеллект, значит, всё, что он говорит, — истина. Но это не так. ИИ учится на человеческих данных и впитывает не только наши знания, но и ошибки и заблуждения. Нейросеть иногда делает ошибки, которые нам очевидны. Здесь важна комбинация: наше критическое мышление и понимание окружающего мира в сочетании с энциклопедическими знаниями модели. Если использовать нейросеть правильно и проверять ее выводы, результат будет лучшим».
Искусственный интеллект не доберется до эмпатии
Александр Аузан, декан экономического факультета МГУ:
«Искусственный интеллект не доберется до свойства эмпатии, потому что эмпатия — вообще-то продукт эволюции. ИИ не является продуктом эволюции, вообще не является эволюционным явлением».
Какую роль играют патенты в развитии технологий?
Александр Крайнов, директор по развитию технологий искусственного интеллекта в Яндексе:
«Патентный портфель должен быть какого-то размера, но не обязательно огромным, чтобы мериться, у кого больше. Есть исключения: для небольших молодых компаний размер патентного портфеля может влиять на инвестиционную стоимость.
На Западе университеты часто зарабатывают на патентах, создавая что-то новое и передавая права компаниям или получая отчисления. В больших компаниях патенты не являются источником заработка. Патентование — это отдельный процесс, требующий времени, денег и навыков. Нужно иметь специальную команду, чтобы заниматься этим. Поэтому далеко не все изобретения или открытия патентуются, и я бы не стал измерять успехи в развитии технологий только патентами».