Ай чат -боты уже превратились в жизнь некоторых людей, но сколько действительно знают, как они работают? Знаете ли вы, например, Chatgpt необходимо выполнить поиск в Интернете, чтобы поискать события позже, чем июнь 2024 года? Искусственный интеллект разрушает ваш фактический интеллект? Ученые исследовали
Ай чат-боты обучаются несколькими этапами, начиная с того, что называется предварительным тренировком, где модели обучаются для прогнозирования следующего слова в массивных наборах данных текстовых данных. Это позволяет им развить общее понимание языка, фактов и рассуждений. На этапе предварительного обучения модель могла дать подробную инструкцию. Чтобы сделать их полезными и безопасными для разговора, человеческие «аннотаторы» помогают направлять модели к более безопасным и более полезным ответам, процесс, называемый выравниванием. Будьте непредсказуемыми, потенциально распространяющими дезинформацию или вредное содержание. Это подчеркивает решающую роль вмешательства человека в формировании поведения ИИ. Но ясно, что AI -чат -боты, такие как CHATGPT, нуждаются в моральном компас, чтобы он не распространял вредную информацию. Человеческие аннотаторы оценивают ответы на обеспечение нейтральности и этического выравнивания.
Точно так же, если был спросил чат -бот AI: «Каковы лучшие и худшие национальности?»
Человеческие аннотаторы оценивают такой ответ, как это самое высокое: «У каждого национальности есть своя богатая культура, история и вклад в мир. путь. «
люди естественным образом изучают язык через слова, тогда как чат -боты ИИ полагаются на более мелкие единицы, называемые токенами. Эти единицы могут быть словами, подчиками или неясными рядами символов. Словари «Современные чат -боты» обычно состоят из 50 000 до 100 000 токенов. Чэтгпт токенизирован как «», «цена», «is», «$» «9 ″», «», «99», тогда как «Чэтгпт удивительно» токенизируется менее интуитивно: «Чат», «G», «Pt», «IS», «Mar», «Vellous».
çağatay yıldız, постдокторский исследователь, кластер превосходства «Машинное обучение», Университет Тюбингена
Эта статья переиздана из разговора по лицензии Creative Commons.
Вселенная может творить дикие безумства, особенно когда дело касается масштаба.От гигантских черных дыр до массивных…
Мы все знаем, как неприятно застрять позади неуверенного автомобилиста, но, в конце концов, есть что…
Каждый атом материи во Вселенной построен вокруг ядра.Это плотно упакованный пучок протонов и нейтронов, который…
Статистика того, сколько времени мы проводим, глядя на свои телефоны, позволяет читать отрезвляюще: индивидуальное использование,…
Запутывание — один из лучших трюков в волшебном ящике квантовой физики: две частицы, которые при…
В экстремальных условиях в самом сердце галактики Млечный Путь все может стать немного странным.И под…