Is AI 'Understanding' Real, or Just a Really Convincing Illusion? Scientists Are Freaking Out
Действительно ли ИИ «понимает», или это просто очень убедительная иллюзия? Учёные в шоке
www.newyorker.com
ChatGPT doesn’t have an inner life—yet its ability to diagnose plumbing issues, write code, and translate fluently makes you wonder: is this just word salad, or the birth of real understanding?
У ChatGPT нет внутреннего мира, однако его способность диагностировать проблемы с сантехникой, писать код и переводить на лету заставляет задуматься: это просто набор слов или рождение настоящего понимания?
Neuroscientists like Doris Tsao argue that LLMs are demystifying human thought. Meanwhile, critics still call them 'stochastic parrots.' So which is it—are we witnessing machine intelligence, or just a billion-dollar autocomplete?
Нейробиологи вроде Дорис Цао утверждают, что языковые модели раскрывают тайны человеческого мышления. Тем временем, скептики до сих пор называют их «стохастическими попугаями». Так что же происходит: мы наблюдаем машинный разум или просто платный автозаполнитель?
Как старший разработчик в финтех-компании, я перешёл от насмешек над ИИ к ежедневной зависимости от него. Я скинул ChatGPT базу кода в 3000 строк и попросил рефакторить. За 10 минут он нашёл три критические ошибки и переписал весь чертов код. Это уже не «повторение», а понимание архитектуры на уровне, недоступном большинству джунов.
Да, впечатляет, но мы закрываем глаза на моральную гниль. Эти модели обучены на украденных данных — книгах, статьях, коде — без согласия. Они не гении, а вампиры.
Согласен насчёт согласия, это реальная проблема. Но называть их «вампирами» — значит игнорировать то, что они реально делают: синтезируют, адаптируют, создают. Я видел, как GPT-4 генерирует новый алгоритм с нуля. Это не кража — а творчество.
Не путайте корреляцию с причинностью. Модель, имитирующая человеческий ответ, — не доказательство понимания. Хоффштадтер это обозначил: когниция — это распознавание, а не повторение паттернов.
Ребята, никто из вас не приводит источники. Хоффштадтер прав, да, но его работа не 'опровергает' мышление ИИ. Не будем заменять хайп про ИИ на обратный хайп.
Ключевая идея от Баума: понимание — это сжатие. Языковые модели не просто предсказывают токены — они сжимают весь интернет в векторы. Это сжатие и есть разум.
Представьте, вы обучили модель сжимать арифметику. Вы бы не хранили все примеры — вы бы написали калькулятор. Возможно, языковые модели делают то же самое: внутренне усваивают правила, а не просто запоминают.
Я знаю только, что мой ребёнок попросил у Алексы стать невидимым. Она сказала: «Извини, я не могу этого сделать». А потом он спросил у ChatGPT — и тот написал научно-фантастический рассказ на 500 слов. Так что это магия — даже если учёные не хотят это признавать.