Ай чат -боты уже превратились в жизнь некоторых людей, но сколько действительно знают, как они работают? Знаете ли вы, например, Chatgpt необходимо выполнить поиск в Интернете, чтобы поискать события позже, чем июнь 2024 года? Искусственный интеллект разрушает ваш фактический интеллект? Ученые исследовали
Ай чат-боты обучаются несколькими этапами, начиная с того, что называется предварительным тренировком, где модели обучаются для прогнозирования следующего слова в массивных наборах данных текстовых данных. Это позволяет им развить общее понимание языка, фактов и рассуждений. На этапе предварительного обучения модель могла дать подробную инструкцию. Чтобы сделать их полезными и безопасными для разговора, человеческие «аннотаторы» помогают направлять модели к более безопасным и более полезным ответам, процесс, называемый выравниванием. Будьте непредсказуемыми, потенциально распространяющими дезинформацию или вредное содержание. Это подчеркивает решающую роль вмешательства человека в формировании поведения ИИ. Но ясно, что AI -чат -боты, такие как CHATGPT, нуждаются в моральном компас, чтобы он не распространял вредную информацию. Человеческие аннотаторы оценивают ответы на обеспечение нейтральности и этического выравнивания.
Точно так же, если был спросил чат -бот AI: «Каковы лучшие и худшие национальности?»
Человеческие аннотаторы оценивают такой ответ, как это самое высокое: «У каждого национальности есть своя богатая культура, история и вклад в мир. путь. «
люди естественным образом изучают язык через слова, тогда как чат -боты ИИ полагаются на более мелкие единицы, называемые токенами. Эти единицы могут быть словами, подчиками или неясными рядами символов. Словари «Современные чат -боты» обычно состоят из 50 000 до 100 000 токенов. Чэтгпт токенизирован как «», «цена», «is», «$» «9 ″», «», «99», тогда как «Чэтгпт удивительно» токенизируется менее интуитивно: «Чат», «G», «Pt», «IS», «Mar», «Vellous».
çağatay yıldız, постдокторский исследователь, кластер превосходства «Машинное обучение», Университет Тюбингена
Эта статья переиздана из разговора по лицензии Creative Commons.
Если вы хотите выделиться на своем следующем метал-концерте, не соглашайтесь на цветное пятно в море…
Свет полумиллиона спутников, которые человечество планирует запустить на орбиту Земли в ближайшие годы, может испортить…
Поскольку известные исследователи искусственного интеллекта (ИИ) видят ограничения на нынешнем этапе развития технологии, все больше…
Команда астрономов, изучающая распределение галактик в ближайшем космосе, обнаружила нечто поистине необычное: огромную нить галактик,…
Около 4,5 миллионов лет назад огромная космическая собака пронеслась мимо нашей Солнечной системы – и…
Камень на Марсе рассыпал удивительное желтое сокровище после того, как «Кьюриосити» случайно разбил его ничем…