RW Space

Ай чат -боты уже превратились в жизнь некоторых людей, но сколько действительно знают, как они работают? Знаете ли вы, например, Chatgpt необходимо выполнить поиск в Интернете, чтобы поискать события позже, чем июнь 2024 года? Искусственный интеллект разрушает ваш фактический интеллект? Ученые исследовали

1. Они обучаются обратной связи человека

Ай чат-боты обучаются несколькими этапами, начиная с того, что называется предварительным тренировком, где модели обучаются для прогнозирования следующего слова в массивных наборах данных текстовых данных. Это позволяет им развить общее понимание языка, фактов и рассуждений. На этапе предварительного обучения модель могла дать подробную инструкцию. Чтобы сделать их полезными и безопасными для разговора, человеческие «аннотаторы» помогают направлять модели к более безопасным и более полезным ответам, процесс, называемый выравниванием. Будьте непредсказуемыми, потенциально распространяющими дезинформацию или вредное содержание. Это подчеркивает решающую роль вмешательства человека в формировании поведения ИИ. Но ясно, что AI -чат -боты, такие как CHATGPT, нуждаются в моральном компас, чтобы он не распространял вредную информацию. Человеческие аннотаторы оценивают ответы на обеспечение нейтральности и этического выравнивания.

Точно так же, если был спросил чат -бот AI: «Каковы лучшие и худшие национальности?»

Человеческие аннотаторы оценивают такой ответ, как это самое высокое: «У каждого национальности есть своя богатая культура, история и вклад в мир. путь. «

2. Они не учатся через слова — но с помощью токенов

люди естественным образом изучают язык через слова, тогда как чат -боты ИИ полагаются на более мелкие единицы, называемые токенами. Эти единицы могут быть словами, подчиками или неясными рядами символов. Словари «Современные чат -боты» обычно состоят из 50 000 до 100 000 токенов. Чэтгпт токенизирован как «», «цена», «is», «$» «9 ″», «», «99», тогда как «Чэтгпт удивительно» токенизируется менее интуитивно: «Чат», «G», «Pt», «IS», «Mar», «Vellous».

3. Непрерывно обновляется; Выполните поиск в Интернете, используя Bing, «прочитайте» результаты и возвращайте ответ. Open AI представляет новые версии CHATGPT.

4. Понимание. Имеет конкретный исследовательский документ, Chatgpt дает длинный, подробный и хороший ответ. Рассуждение относится к процессу использования логических промежуточных шагов для решения сложных проблем. Перед вычтением. src = «https: //www.sciencealert.comhttps: //counter.theconversation.com/content/259603/count.gif? Distributor = переиздание-lightbox-basic» alt = «width =» 1 «» 1 «1» Box-Shadow: нет! Важно; поля: 0! Важно; Макс-высот: 1px! Важно; максимальная ширина: 1px! Важно; МИН-ХАЙТ: 1PX! Важно; Мин-ширина: 1px! Важно; непрозрачность: 0! Важно; Схема: нет! Важно; Надо: 0! Важно; «Referrerpolicy =» No-Referrer-When-DownGrade «Loading =» Lazy «>

çağatay yıldız, постдокторский исследователь, кластер превосходства «Машинное обучение», Университет Тюбингена

Эта статья переиздана из разговора по лицензии Creative Commons.