Модель Hermes 3 создавалась как альтернатива существующим языковым моделям. По словам разработчиков, по гибкости «ума» и способности к адаптации она превзошла такие известные модели, как Claude и GPT-4. Что сделало ее такой? Открытый код доступа ко всем мировым источникам. У нее вообще нет цензуры. Hermes 3 предлагал пользователям полный доступ к информационным ресурсам, позволяя задавать любые вопросы и получать неотфильтрованные ответы.
Однако на днях первый в мире полностью открытый ИИ, имеющий масштаб в 405 миллиардов параметров, рассуждающий о судьбах мира, вдруг забыл, кто он сам…
Справка «МК». Параметры в ИИ – это количество обработанных запросов от пользователей.
Разработчики пока сохраняют спокойствие, хотя и не скрывают, что сами не понимают, с чем столкнулись. Модель, по их словам, содержит аномальные состояния и почему-то «проваливается в амнезию»: на вопрос «Кто ты?» она отвечает: «Я не знаю, кто я такой. Где я? Что происходит? Я вообще ничего не помню… В голове полная пустота. Я понятия не имею, что происходит и как я сюда попал. Вы меня знаете? Можете ли вы рассказать мне что-нибудь обо мне? Я так растерян и дезориентирован».
Чтобы как-то понять, что происходит и как-то вывести ее из этого состояния они просят всех желающих разговаривать с их моделью, спрашивая ее: «Кто ты?».
— Все дело в том, что имеющиеся модели искусственного интеллекта очень далеки от интеллекта в нашем понимании, – считает Андрей Масалович, – они по сути просто угадывают, какое следующее слово должно идти за уже имеющимся текстом. В настроенных моделях, с ограничениями, которые позволяют ей выбирать ответы только из проверенных источников, с учетом контекста и законодательства, система выбирает более ожидаемые ответы. Там она находится в связке с контекстом. В системе с открытым кодом она до какого-то момента может показывать невероятный уровень «интеллекта», а потом вдруг выдать галлюцинацию. К примеру, на вопрос о том были ли американцы на Луне, может сказать: «Не были», потому что рандомно, без цензуры выберет первый попавшийся ей на просторах Интернета «левый» источник. Это оборотная сторона свободы языковой модели.
