Комментарий эксперта: Почему так много инструментов ИИ оказываются на кладбище ИИ?

20.11.2026

По мере того как правительства и технологические компании борются за развитие ИИ, возникает более фундаментальный вопрос: кто будет формировать технологию и кто от этого выиграет? Какой бы блестящей ни была технология, инструмент ИИ всегда будет с трудом восприниматься, если люди не поверят, что он был создан ими самими и для них.

Компания Gartner, занимающаяся исследованиями в области технологий, обнаружила, что к концу 2025 года по меньшей мере 50% всех проектов с генеративным ИИ были заброшены после стадии проверки концепции. Согласно исследованию, проведенному в 2024 году, процент неудач в проектах с ИИ превышает 80%, что в два раза больше, чем в технологических проектах, не связанных с ИИ.

Когда речь заходит об ИИ и системах правосудия, ставки особенно высоки. Компания DoNotPay, позиционирующая себя как "первый в мире робот-юрист", согласилась выплатить 193 000 долларов для урегулирования обвинений, выдвинутых Федеральной торговой комиссией США в связи с заявлениями о ее возможностях, которые не были должным образом протестированы.

Исследователи из Стэнфорда также обнаружили, что исследовательские инструменты юридического ИИ, в том числе ИИ Lexis+ от LexisNexis и ИИ Ask Practical Law от Thomson Reuters, "вызывают галлюцинации в 17-33% случаев". В зале суда, где ошибка может стоить кому-то свободы, инструмент, который так часто работает неправильно, не может заслужить доверия только за счет технических претензий или повышения эффективности.

Бразилия, родина одной из самых амбициозных судебных программ по ИИ в мире, поняла, что энтузиазм может быстро опередить внедрение. По данным Национального совета юстиции, суды страны приняли 178 инициатив в области искусственного интеллекта, однако к 2023 году 65% судебных проектов в области искусственного интеллекта были прекращены. Это поднимает важные вопросы о том, как поддерживаются, координируются и устойчивы проекты в области искусственного интеллекта. Привлечение людей, которые будут использовать эти инструменты с самого начала, является важной частью обеспечения того, чтобы они отвечали реальным потребностям, завоевывали доверие и выдерживали проверку временем.

Технологии, навязанные извне, редко выдерживают контакт с реальной жизнью

Afghanistan offers important lessons for what happens when tech tools are imposed rather than co-created. After two decades and $145 billion in reconstruction costs, a U.S. investigation concluded that the U.S. government had struggled to tailor its efforts to the Afghan context or consider whether Afghan institutions could sustain them.

Digital projects followed the same arc. In 2019, USAID's contractor DAI commissioned a citizen-reporting app for Kabul Municipality. Rather than designing it with Kabul's residents, it called for adapting an app built for a small town in Guatemala to save time and money. The app launched in October 2020 and immediately lay dormant.

"Civic technology only becomes sustainable when people feel safe and confident using it to engage with their government, and that trust is built through co-creation with the community. As governments turn to AI, this matters even more. There are no shortcuts to this process," said Sara Wahedi, technology specialist, Oxford Institute of Technology and Justice.

Even world-class AI can stumble at the clinic door. Google Health built a deep learning system that could detect diabetic eye disease from retinal scans with more than 90% accuracy. Yet when Google's researchers followed it into 11 clinics across Thailand, practical challenges such as poor lighting meant the system rejected images it might otherwise have been able to read. The model worked in the lab but had not been designed with the nurses who would use it.

When communities build the tool, they keep it running

The counterexample comes from New Zealand's far north. Te Hiku Media, an iwi radio station, asked its community to help build speech recognition for te reo Māori. Within 10 days, roughly 2,500 people had contributed 310 hours of paired speech and text. The system now reaches 92% accuracy for te reo Māori and is released under a Kaitiakitanga license, which allows the data to be used only for the benefit of Māori people. Te Hiku has also turned away corporations seeking access to the language data. Technical excellence followed co-creation, and the sequencing worked.

Funders and industry are beginning to take notice. The Gates Foundation states that "AI tools are most effective when the people they are meant to serve help shape them" while the head of Microsoft's AI for Good Lab has stated that AI can expand access to justice when it is "built with and for the communities it serves." This growing recognition is an encouraging step toward making co-creation a more established part of how AI projects are funded and developed.

At the Oxford Institute of Technology and Justice, we are building tools for and with women and children, first responders, journalists and judges. We are also launching an executive program on Leading AI through Co-Creation.

In our experience, co-creation does three important things. First, it tests whether the problem a funder wants solved is the problem people actually experience. Second, it builds the trust that turns a tool people are told to use into one they choose to use. Third, it ensures sustainability; people have a stake in keeping the system running after the grant ends and the consultants leave.

In Malawi, our co-creation sessions have enabled first responders, including nurses, teachers, magistrates' clerks and shelter managers, to help choose the features of the tool designed to help access legal information on child marriage and sexual violence. One participant observed that because she was involved in co-creating the warm and reassuring voice and tone of the tool, she "feels a sense of ownership over it."

Listening has to take place from the outset, co-creation sessions have to be written into budgets and timelines, and key performance indicators must consider whether people keep using what was built. AI tools that communities had no hand in shaping will keep ending up in the graveyard, however good the engineering.

>

Читать на сайте источника »