Интересное
Никто до конца не понимает как работает ИИ. Парадокс
Короткие фрагменты интервью о том, почему даже исследователи и создатели моделей не до конца понимают, как ИИ формирует мысли, цели и промежуточные решения. Нажмите на таймкод — видео перемотается к нужной цитате прямо здесь.
Цитаты — нажмите на время
Цитаты — нажмите на время
Цитаты — нажмите на время
Об этом же говорится в статьях
Команда интерпретируемости Anthropic буквально «вскрывает» большую языковую модель, чтобы понять, что происходит у неё внутри, пока она отвечает. Их вывод парадоксален: даже создатели не знают точно, как внутри модели формируются мысли, представления и сам процесс рассуждения.
«Когда вы разговариваете с большой языковой моделью… никто на самом деле не знает, что именно происходит внутри неё во время ответа на вопрос».
«Модель не обязательно думает о себе как о предсказателе следующего слова; внутри неё формируются промежуточные цели и абстракции».