ИИ ведет себя скорее как мозг, чем как база данных — роль когнитивной науки в истории его возникновения помогает объяснить, почему

Когда люди задумываются о том, что делают ChatGPT или другие крупные языковые модели за кулисами, они обычно обращаются к компьютерному языку. Вы можете предположить, что существует база данных или логическая последовательность шагов, выполняемых для получения ответа на ваш запрос.

Представление о том, что ответы ИИ похожи на то, как ваш компьютер просматривает файл, - разумный ход мыслей. Но это неверно. Понимание центрального влияния когнитивной науки на эволюцию ИИ помогает объяснить, почему.

История ИИ - это не только история компьютерных наук. Фундаментальные достижения, которые привели к созданию современного искусственного интеллекта, были достигнуты людьми, целью которых было понять человеческий разум, а не помочь вам с домашним заданием или составлением маршрута путешествия. Это различие важно, поскольку помогает объяснить, почему эти системы "ведут себя" именно так, как они это делают.

Мы - ученые-когнитивисты, которые рассказывают студентам о междисциплинарных корнях нашей области, в том числе о ее глубоких и часто упускаемых из виду связях с информатикой и искусственным интеллектом. У нас есть общая история, которая часто теряется в разговорах о том, что делает ИИ.

Термин "искусственный интеллект" был введен в обиход в 1956 году на семинаре в Дартмутском колледже. В то время люди думали, что машину можно сделать разумной, если записать правильный набор правил, которым она должна следовать.

Однако вместо того, чтобы создавать машину, которая следовала бы правилам, психолог Фрэнк Розенблатт в 1958 году создал перцептрон, который учился на примерах. Розенблатт не был на семинаре в Дартмуте, но он думал о том, как сделать машину интеллектуальной принципиально иным, более человечным способом. Его ключевой идеей было создание искусственной нейронной сети: компьютерного алгоритма, в общих чертах моделирующего архитектуру мозга.

Этот подход основан на работах психологов, таких как Дональд Хебб, которые изучали мозг и поведение. В частности, Хебб исследовал, как нейронные связи укрепляются при их использовании, и это фундаментальное открытие впоследствии стало основой машинного обучения.

Дальнейшие успехи были достигнуты в 1980-х годах, когда психологи попытались объяснить, как люди выполняют сложные когнитивные задачи, такие как распознавание слов и формирование воспоминаний. Ученые—когнитивисты и компьютерщики вместе-David Rumelhart, Geoffrey Hinton and Ronald Williams—figured out how to train artificial neural networks with multiple layers, an idea that later became known as "deep learning." These multilayered neural networks were capable of more complex tasks and generalizing what they "learned" to apply to new examples.

In the following decades, computer scientists and engineers enabled computing capabilities to be scaled up, developing graphics chips, the transformer architecture and more. Without these systems, modern AI would still struggle to recognize letters and words rather than be able to hold realistic conversations in natural language.

The fundamental insights, however, came from the study of the mind: AI should learn from examples, and its architecture should be based on the human brain.

These foundational ideas matter for practical reasons. Modern AI isn't born from rules—it's grown from examples. And things that are grown are not as predictable as systems based on rules.

Human intuitions and mental models about how technology works govern how people use it. The idea of AI as software—deterministic, fact-retrieving—causes people to misinterpret the outputs it provides.

AI "hallucinations" are common; chatbots often state falsehoods. Thinking of AI as a database makes this behavior appear confusing. How could a system look up an answer that doesn't exist?

But human memory doesn't "look up" answers. It is reconstructive and imperfect, filling in gaps with plausible details. Thanks to pioneering work by psychologist Elizabeth Loftus, researchers know that false memories are unfortunately common and can be implanted with relative ease.

A system that "looks something up" gives the same answer every time, but it is therefore limited to responding to a finite set of questions. Human minds don't work that way, and neither does AI. The price to pay for being able to generalize to new questions and tasks is a system prone to confabulation.

Thinking of AI as like a primitive brain also helps explain additional puzzling behaviors, such as getting different answers to the same question. Ask your young child what they want for dinner twice and you may get different requests. Framing matters when interacting with an AI system too, as these systems can be nudged into giving you answers you prefer. They operate in a probabilistic fashion, much like human memory, not in a deterministic fashion, like a calculator.

None of this means that AI necessarily thinks like people do, if the systems think at all. Humans and AI commonly "perceive" things differently; computer vision can spot subtle abnormalities that human screeners might miss but might also misinterpret something, such as a defaced road sign.

If modern AI is unpredictable, how can people come to understand it?

The answer is by understanding where this technology came from. Recognizing that AI systems are more akin to brains than databases can help people build more accurate mental models of what AI can do and can lead to better ways of understanding how these systems work.

1. Users overtrust the wrong things. With a significant proportion of ChatGPT users indicating that they use ChatGPT like a search engine, it seems that people are treating outputs as retrieved facts rather than fluent, confident guesses. This misunderstanding can cause users to skip the verification step they'd likely apply to a person and potentially make decisions, including financial ones, based on confabulation.
2. Institutions grapple with differing mental models. Faculty remain split between banning AI tools outright and building them into coursework, treating AI outputs as answers to be checked or trusting AI tools like collaborators. Divisions are causing confusion and sowing rifts among (and within) educators and their students.
3. Computer science is rediscovering cognitive science's questions. Today's systems are opaque even to their builders. One approach to understanding them, probing what goes in and what comes out, resembles behaviorism, a once-dominant field of psychology that studied only observable behavior. Researchers are now moving toward interpretability: opening up the models to see what's happening inside—closer in spirit to neuroscience—and working on problems cognitive scientists have chewed on for decades.

The exchange runs both ways. Just as computer science draws on cognitive science's questions and methods, cognitive science draws on the accessibility of AI models themselves, using them to test and refine theories of the mind. Computer science and cognitive science split off from one project decades ago: understanding how intelligence works. The more these fields keep trading questions and tools, the better placed humanity will be.

This article is republished from The Conversation under a Creative Commons license. Read the original article.