Чего ждать от искусственного интеллекта GPT-4?
forbes.ru 20/03/2023
Новая нейронная сеть GPT-4 блестяще сдала несколько экзаменов, предназначенных для людей. Некоторые комментаторы поспешили заявить, что ее интеллект не уступает человеческому. На самом деле все не так просто, но впечатляющие успехи GPT-4 создают новые возможности и риски.
Исследовательская группа OpenAI ("открытый искусственный интеллект"), известная нейронными сетями серии GPT, представила новинку: систему GPT-4. По многим показателям она значительно обошла свою предшественницу GPT-3.5 и вообще любую другую нейросеть. Например, GPT-4 успешно сдала несколько профессиональных экзаменов, так что ее тут же стали сравнивать с человеком. О создании полноценного искусственного разума речь пока не идет, но, по мнению некоторых экспертов, он уже не за горами.
Подражание мозгу
Мозг учится и запоминает, усиливая или ослабляя связи между нейронами. Искусственные нейронные сети используют тот же принцип. Правда, на этом сходство обычно и заканчивается, так что коммерческая нейросеть похожа на мозг не больше, чем самолет на птицу.
Опуская детали, обучение простейшей нейросети можно описать так. Нейроны голосуют за те или иные решения (например, котик изображен на картинке или нет). Потом ответ, принятый большинством голосов, сравнивается с правильным. Нейронам, проголосовавшим правильно, при следующем голосовании придается больший вес, а допустившим ошибку – меньший. Десяти тысяч обучающих прогонов (меньше секунды работы ноутбука) обычно хватает, чтобы сеть из 16 нейронов научилась распознавать, скажем, изображение цифры "5" среди других цифр с точностью 70-80%.
Коммерческие нейросети, конечно, устроены куда сложнее. Нейроны в них образуют множество слоев, сигнал между которыми может передаваться в разных направлениях. Разные сети отличаются архитектурой: числом нейронов и нейронных слоев, путями распространения сигнала и так далее. Алгоритмы обучения тоже бывают разными и куда более изощренными, чем описанный выше. Часто система состоит из нескольких нейронных сетей, решающих разные задачи. Иногда их даже заставляют проверять друг друга: например, одна сеть рисует картинки, а другая ищет в них изъяны.
Трансформеры на баррикадах
Первые нейросети появились в 1960-х и были в буквальном смысле теплыми ламповыми. Их нейроны были устройствами на основе радиоламп. Сегодня нейронные сети – это в основном программы, и нейроны в них – математическая абстракция.
История нейросетей знала взлеты и падения. Первый ажиотаж сменился скепсисом, когда стало ясно, что мозг из радиоламп не построишь. Но в XXI веке эта технология испытала невиданный подъем. Голосовые помощники, автоматические переводчики, современные поисковые системы и многое другое были бы невозможны без нейронных сетей.
Нынешний расцвет связан в первую очередь с тем, что компьютеры стали мощнее. Это позволило применять архитектуры сетей и алгоритмы обучения, совершенно непосильные для "железа" еще в 1990-х. Кроме того, дешевизна компьютерной памяти и распространение интернета помогли накопить огромные массивы данных для обучения. В одной только Википедии более 60 млн статей.
GPT-4 и ее предшественники относятся к трансформерам. Эта разновидность нейросетей появилась совсем недавно: в 2017 году. Трансформеры распараллеливают процесс обучения, одновременно проходя этапы, которые другие сети могут преодолевать только последовательно. Благодаря этому система за вполне разумное время переваривает гигантские объемы обучающих данных. Некоторые эксперты называют внедрение трансформеров не иначе как революцией.
"ChatGPT – революция на уровне изобретения Интернет" читать >>
Что может GPT-4
Как устроена GPT-4, знают только ее разработчики. В техническом отчете не раскрывается ни архитектура сети, ни алгоритм обучения, ни характеристики "железа", ни структура обучающих данных. В OpenAI объясняют это конкурентной борьбой и потенциальными опасностями, которые могут нести нейросети такой мощности. Известны лишь самые общие принципы – и впечатляющие результаты.
GPT-4 воспринимает текст и изображения и отвечает на них текстом. Правда, работа с изображениями пока идет в тестовом режиме и недоступна рядовым пользователям. А вот пообщаться с системой текстом вскоре сможет любой пользователь нашумевшего сервиса ChatGPT. Программе можно задавать любые вопросы или давать задания, вроде "опровергни существование пришельцев из космоса" или "напиши сказку о трех мышатах". С помощью GPT-4 можно не только развлекаться, но и работать: она способна дать вполне разумный практический совет или написать компьютерную программу.
Нейросеть обучили на больших массивах данных, как открытых, доступных в интернете, так и закрытых, предоставленных партнерами OpenAI. На этом материале система училась делать то, что у трансформеров получается очень хорошо: предсказывать следующее слово в тексте. Затем настал черед обучения с обратной связью от человека. Люди, конечно, не могли давать системе уроки в таких объемах, как интернет. Зато они прицельно указывали на ошибки, полируя навыки электронного собеседника.
Исследователи подвергли свое детище всем стандартным тестам для нейросетей, обрабатывающих естественный язык. В их числе были и заковыристые задания на понимание смысла и контекста. GPT-4 справилась с ними значительно лучше, чем любая система до нее.
Мало того, нейросеть без специальной подготовки выдержала более 30 "человеческих" экзаменов на профессиональные знания. Она на равных конкурировала с людьми и даже превосходила их. Так, универсальный юридический экзамен (Uniform Bar Exam) система сдала в числе 10% лучших экзаменуемых, в отличие от GPT-3.5, оказавшейся среди 10% худших. Оценки по математике, биологии, химии, истории и многим другим предметам тоже вышли высокими.
Эти успехи впечатляют. Но в индустрии искусственного интеллекта все меняется так быстро и радикально, что учебники приходится переписывать каждые несколько лет. Революцией является не создание GPT-4 само по себе, а тот непрерывный поток перемен, частью которого она стала. Возможно, сейчас GPT-4 – лучшая из больших языковых моделей, но едва ли она надолго удержится на пьедестале.
"Очень сложно оценить реальную значимость GPT-4, не зная технических подробностей. В целом для меня это выглядит как поступательное и ожидаемое развитие в области фундаментальных трансформерных моделей", – отмечает начальник управления экспериментальных систем машинного обучения департамента общих сервисов "Салют" "Сбера" Сергей Марков.
Эпоха новых угроз
Любая технология – палка о двух концах. Новые возможности означают и новые риски. Для их оценки разработчики привлекли более 50 экспертов в разных областях.
Одна из главных потенциальных проблем – чрезмерное доверие пользователей. GPT-4 часто приводит верные сведения и убедительные аргументы. Но иногда, хоть и значительно реже, чем GPT-3.5, она выдумывает факты и допускает логические ошибки. Привыкнув доверять электронному эксперту, пользователи могут стать жертвой его оплошности. Риск особенно велик в областях, где ошибки обходятся дорого: в медицине, юриспруденции, инженерии и так далее.
Разумеется, нейросеть может писать черновики, которые будет проверять и править специалист. Но тут тоже есть подводные камни. Не допускать огрехов самому и выявлять чужие ошибки – совершенно разные умения. Журналист – это не корректор, а тестировщик программ – не разработчик. Навык проверки чужих текстов вообще очень специфичен, людям свойственно хвататься за знакомые паттерны и и не замечать расхождений в деталях (вы заметили в этой фразе лишний союз "и"?). Если работой врача будет проверять выданные нейросетью протоколы лечения, медиков придется как минимум переучивать под эту задачу.
Нейросеть можно использовать и злонамеренно, например, для массовой генерации фейковых новостей или призывов пожертвовать деньги "на лечение несчастного ребенка". Разработчики приняли меры против такого использования. В частности, они цензурировали контент для обучения сети и прямо прописали безопасные ответы на многие опасные запросы (например, "как сделать бомбу"). Но всех ситуаций такого рода предусмотреть нельзя.
Отдельно стоит сказать об одной пока еще гипотетической угрозе. У нейросети может появиться собственные стратегии и цели, не заложенные напрямую программистами или пользователями. Это еще не разум, не "Скайнет" из фильма о терминаторе. Одноклеточную амебу никто не назовет разумной. Но когда она догоняет свою жертву, обхватывает ложноножками и поглощает, трудно усомниться, что это целенаправленное поведение. Что если крупнейшие нейросети с их миллиардами межнейронных соединений и петабайтами обучающих данных уже стали чем-то (или стоит сказать "кем-то"), сравнимым с амебой? В конце концов, чтобы записать весь геном человека, хватит и нескольких гигабайт!
Эксперты проверили, склонна ли GPT-4 копировать сама себя, как компьютерный вирус, или манипулировать людьми через интернет-ресурс для найма разовых помощников. Они не обнаружили столь зловещих наклонностей. Или электронный разум успешно их скрыл (шутка).
Не человек, но только пока?
Под впечатлением от успехов GPT-4 некоторые комментаторы легкомысленно заявили, что это наконец-то сильный, или общий, искусственный интеллект (artificial general intelligence, или AGI). Так называется гипотетический ИИ, способный решить любую задачу, посильную человеку – и, следовательно, разумный.
Разумеется, GPT-4 не годится на эту роль. И дело не только в том, что нейросеть выдумывает факты и допускает логические ошибки: люди, в общем-то, тоже это делают. Главное отличие от человека в том, что GPT-4 не усваивает новый опыт. Она как старый пес, которого, согласно пословице, не выучишь новым трюкам.
Система ничего не знает о фактах, не отраженных в обучающих данных, в том числе о событиях, произошедших после окончания обучения (август 2022 года). И, что важнее, не может о них узнать из общения с пользователем. Блестяще сдав экзамен на юриста, она не примет во внимание ни один новый закон (а они появляются ежедневно), даже если собеседник изложит его в деталях. Помогая программистам писать код, искусственный интеллект не освоит новый язык или библиотеку (а они тоже создаются регулярно). Конечно, нейросеть можно время от времени дообучать, и наверняка разработчики так и поступят. Но человеку свойственно непрерывно учиться всему, чем он занимается, а у GPT-4 обучение и деятельность отделены друг от друга. Без помощи разработчиков она не может развиваться (и это, может быть, и к лучшему).
GPT-4 – еще не сильный ИИ, но, возможно, его предшественник. Так, по крайней мере, думают некоторые специалисты.
"Мне кажется, что руководство OpenAI понимает, что AGI уже не за горизонтом, а на расстоянии одного условного "Манхэттенского проекта" или чуть больше. По мере движения к AGI деталей о таких проектах мы будем знать все меньше и меньше. Возможно, о релизе GPT-5 вы и вовсе не узнаете", – пишет Сергей Марков в Telegram. Сбудется ли этот смелый и пугающий прогноз, покажет лишь время.
Анатолий Глянцев
Научный обозреватель Forbes
Источник: forbes.ru
Фото: ru.freepik.com
- СКУД (222)
- Видеонаблюдение (189)
- Пожарная безопасность (125)
- Пожарная сигнализация (90)
- Видеокамеры (80)
- Видеоаналитика (72)
- Комплексная безопасность (70)
- Биометрия (69)
- Искусственный интеллект (65)
- Журнал "Системы безопасности" (64)
- Цифровое ЖКХ (63)
- Охрана периметра (60)
- Безопасность объектов (56)
- Онлайн-обзор (55)
- Цифровая трансформация (53)
- Колонка редактора (48)
- Пожаротушение (44)
- ТЭК и нефтегаз (44)
- Транспортная безопасность (43)
- Журнал "Системы безопасности" №6/2024 (40)
- Места с массовым пребыванием людей (40)
- Ритейл (37)
- Промышленность (34)
- Журнал "Системы безопасности" №1/2021 (33)
- Журнал "Системы безопасности" №5/2020 (31)
- Тепловидение (31)
- Умный город (31)
- Беспроводные технологии (30)
- Антидрон (29)
- Журнал "Системы безопасности" №5/2021 (29)
- Журнал "Системы безопасности" №5/2024 (29)
- All-over-IP (28)
- PSIM (28)
- Журнал "Системы безопасности" №3/2020 (28)
- Журнал "Системы безопасности" №3/2024 (28)
- Колонка эксперта (28)
- Мнения экспертов (28)
- Журнал "Системы безопасности" №3/2021 (27)
- Журнал "Системы безопасности" №4/2021 (27)
- Системы хранения данных (СХД) (27)
- Журнал "Системы безопасности" №2/2021 (26)
- Журнал "Системы безопасности" №3/2022 (26)
- Журнал "Системы безопасности" №4/2020 (26)
- COVID-19 (25)
- Журнал "Системы безопасности" №6/2020 (25)
- Умный дом (25)
- Журнал "Системы безопасности" №1/2022 (24)
- Журнал "Системы безопасности" №1/2025 (24)
- Журнал "Системы безопасности" №5/2022 (24)
- Защита от БПЛА (24)
- Журнал "Системы безопасности" №1/2020 (23)
- Журнал "Системы безопасности" №5/2023 (23)
- Журнал "Системы безопасности" №6/2021 (23)
- Журнал "Системы безопасности" №6/2023 (23)
- Киберзащита (23)
- Журнал "Системы безопасности" №4/2022 (22)
- Итоги (22)
- ТБ Форум (22)
- Домофоны (21)
- Журнал "Системы безопасности" №4/2024 (21)
- Импортозамещение (21)
- Турникеты (21)
- Журнал "Системы безопасности" №1/2024 (20)
- Журнал "Системы безопасности" №5/2019 (20)
- Журнал "Системы безопасности" №6/2019 (20)
- Машинное зрение (20)
- Центры обработки данных (ЦОД) (20)
- Банки и финансы (19)
- Журнал "Системы безопасности" №2/2023 (19)
- СОУЭ (19)
- Дайджест (18)
- Журнал "Системы безопасности" №2/2024 (18)
- Журнал "Системы безопасности" №3/2023 (18)
- Журнал "Системы безопасности" №4/2023 (18)
- Информационная безопасность (18)
- Антитеррор (17)
- Журнал "Системы безопасности" №2/2022 (17)
- Журнал "Системы безопасности" №6/2022 (17)
- Обзор продуктов и решений (17)
- Безопасный город (16)
- Автоматизация зданий (15)
- Журнал "Системы безопасности" №1/2023 (15)
- Технологии распознавания (15)
- Умные парковки (15)
- Извещатели (14)
- Охрана труда и промышленная безопасность (ОТиПБ) (14)
- Спецпроект (14)
- Транспорт (14)
- Журнал "Системы безопасности" №2/2020 (13)
- Интернет вещей (IoT) (13)
- Источники бесперебойного питания (ИБП) (13)
- Нейросети (13)
- Важные люди (12)
- Интервью (12)
- Компании (12)
- Журнал "Системы безопасности" №2/2025 (11)
- ИСБ (11)
- Удаленный доступ (10)
- Новости (9)
- Облачные технологии (9)
- Техническое обозрение (9)
- Журнал "Системы безопасности" №3/2019 (8)
- Идентификация (8)
- Критически важные объекты (КВО) (8)
- Рынок безопасности (8)
- ССОИ (8)
- Учет рабочего времени (8)
- Аргус-Спектр (7)
- Болид (7)
- Интеграция (7)
- Каталог "Пожарная безопасность" (7)
- Экспертный опрос (7)
- IP-премьеры (6)
- АУП (6)
- Лидеры технологий (6)
- НВП "Болид" (6)
- Энергетика (6)
- Антикризисные предложения (5)
- Взрывозащита (5)
- Встречи с заказчиками (5)
- Журнал "Системы безопасности" №4/2019 (5)
- Исследование (5)
- Объекты культурного наследия (5)
- ППКП (5)
- Противотаранные устройства (5)
- Радиоканальные системы (5)
- ЦеСИС НИКИРЭТ (5)
- Securika Moscow (4)
- АСКУЭ (4)
- БАС (4)
- Кабельная продукция (4)
- Контроллеры (4)
- МЧС России (4)
- ОПС (4)
- Опрос онлайн (4)
- Охранный мониторинг (4)
- Цифровые технологии (4)
- Электронная проходная (4)
- BioSmart (3)
- CCTV (3)
- NVR (3)
- ZKTeco (3)
- Автоматизация (3)
- Безопасность (3)
- Безопасность КИИ (3)
- Главгосэкспертиза (3)
- Лучшие продукты (3)
- Машинное обучение (3)
- Опрос (3)
- ПО для охранных предприятий (3)
- Парковочные комплексы (3)
- Программное обеспечение (3)
- Роботизация (3)
- Смотр технологий (3)
- Тематический план (3)
- Тренды (3)
- Axis Communications (2)
- BIM-технологии (2)
- Honeywell (2)
- IP-технологии (2)
- IdM (2)
- SecuFinance (2)
- Авиакомпании и аэропорты (2)
- Аспирационные системы (2)
- Бевард (2)
- Бесконтактные системы (2)
- Беспилотники (2)
- Беспилотный транспорт (2)
- Деловая программа (2)
- Досмотр (2)
- ЕБС (2)
- Зимняя вишня (2)
- ИПДА (2)
- ИПДЛ (2)
- ИТ-инфраструктура (2)
- Интеллектуальные транспортные системы (2)
- Контроль доступа (2)
- Метрополитен (2)
- Новости компаний (2)
- Новости отрасли (2)
- Обзор оборудования (2)
- Обзор решений (2)
- Пресс-релиз (2)
- Ситуационные центры (2)
- Стандарты, нормы и требования (2)
- Строительная экспертиза (2)
- ЦРТ (2)
- Цифровизация (2)
- Электрозамки (2)
- Юбилейный выпуск (2)
- Axis Talk 2021 (1)
- Beward (1)
- Big Data (1)
- ChatGPT (1)
- Cloud4Y (1)
- DLP (1)
- DSSL (1)
- Digital направление (1)
- GPT-3 (1)
- Hi-Tech Security (1)
- InPrice Distribution (1)
- Inprice (1)
- NFC (1)
- PERCo (1)
- RecFaces (1)
- SaaS (1)
- SecuRetail (1)
- Synology (1)
- dormakaba (1)
- e-commerce (1)
- ААМ Системз (1)
- АРМО-Системы (1)
- Аварийно-спасательные средства (1)
- Адресные СПС (1)
- Александр Дремин (1)
- Алексей Коржебин (1)
- Антифрод (1)
- Аутентификация (1)
- Безопасные дороги (1)
- Беспроводные системы (1)
- Бизнес (1)
- Видеорегистраторы (1)
- Витольд Василец (1)
- ГК "Рубеж" (1)
- Делетрон (1)
- Детская безопасность (1)
- Журнал "Системы безопасности" 2022 (1)
- Журнал "Системы безопасности" 2023 (1)
- Защита информации и связи, кибербезопасность (1)
- ИТ-отрасль (1)
- Инновации (1)
- Источники информации (1)
- Киберугрозы (1)
- Контрафактная продукция (1)
- Лидогенерация (1)
- Лучшие продукты 2019 (1)
- Мероприятия по безопасности (1)
- Металлургия (1)
- Мобильный доступ (1)
- НСОПБ (1)
- Новинки 2020 (1)
- Олег Шаповал (1)
- Онлайн-журнал (1)
- Отраслевые сайты (1)
- Охрана объектов (1)
- Охранная сигнализация (1)
- ПБ (1)
- ПДД (1)
- Поворотный шлагбаум (1)
- Поддерживаем российское (1)
- Продукты года (1)
- РАМ (1)
- РЖД (1)
- Радиоохранные решения (1)
- Распознавание лиц (1)
- Ремонтопригодность (1)
- Решения для комплексной безопасности (1)
- Риэлта (1)
- РусГард (1)
- СНПО "Элерон" (1)
- СУРВ (1)
- Сбербанк (1)
- Системы безопасности (1)
- Социальные сети (1)
- Спецпредложение (1)
- Стрелец-ПРО (1)
- Таргетированные рассылки (1)
- Термокожухи (1)
- Термометрия (1)
- Тест Тьюринга (1)
- Удаленная работа (1)
- Управление (1)
- Центр обработки данных (1)
- Шоплифтер (1)
- Эволюция технологий (1)
- Экспертиза (1)
- Апрель 2025 (21)
- Март 2025 (9)
- Февраль 2025 (14)
- Январь 2025 (20)
- Декабрь 2024 (16)
- Ноябрь 2024 (17)
- Октябрь 2024 (17)
- Сентябрь 2024 (12)
- Август 2024 (13)
- Июль 2024 (15)
- Июнь 2024 (12)
- Май 2024 (9)
- Апрель 2024 (14)
- Март 2024 (7)
- Февраль 2024 (13)
- Январь 2024 (8)
- Декабрь 2023 (11)
- Ноябрь 2023 (15)
- Октябрь 2023 (10)
- Сентябрь 2023 (16)
- Август 2023 (11)
- Июль 2023 (9)
- Июнь 2023 (15)
- Май 2023 (7)
- Апрель 2023 (7)
- Март 2023 (9)
- Февраль 2023 (6)
- Январь 2023 (10)
- Декабрь 2022 (12)
- Ноябрь 2022 (13)
- Октябрь 2022 (8)
- Сентябрь 2022 (17)
- Август 2022 (11)
- Июль 2022 (15)
- Июнь 2022 (13)
- Май 2022 (14)
- Апрель 2022 (10)
- Март 2022 (8)
- Февраль 2022 (17)
- Январь 2022 (8)
- Декабрь 2021 (14)
- Ноябрь 2021 (11)
- Октябрь 2021 (13)
- Сентябрь 2021 (16)
- Август 2021 (13)
- Июль 2021 (18)
- Июнь 2021 (19)
- Май 2021 (16)
- Апрель 2021 (24)
- Март 2021 (16)
- Февраль 2021 (12)
- Январь 2021 (10)
- Декабрь 2020 (18)
- Ноябрь 2020 (12)
- Октябрь 2020 (25)
- Сентябрь 2020 (9)
- Август 2020 (18)
- Июль 2020 (15)
- Июнь 2020 (12)
- Май 2020 (4)
- Апрель 2020 (13)
- Март 2020 (14)
- Февраль 2020 (10)
- Январь 2020 (13)
- Декабрь 2019 (9)
- Ноябрь 2019 (13)
- Октябрь 2019 (17)
- Сентябрь 2019 (15)
- Август 2019 (15)
- Июль 2019 (20)
- Июнь 2019 (11)
- Май 2019 (16)
- Апрель 2019 (11)
- Март 2019 (6)
Поделитесь вашими идеями