5 способов, с помощью которых искусственный интеллект изменит способы защиты вашего бизнеса в 2027 году

18.11.2026
Ключевые выводы ZDNET
  • Google ожидает, что в 2027 году ИИ-агент начнет оказывать масштабное влияние на безопасность.
  • Эксперты по безопасности говорят, что ИИ - это наша новая реальность, которая обгоняет группы реагирования, работающие только с людьми.
  • Агентам необходимы идентификационные данные, и ими необходимо управлять как активами, так и рисками кибербезопасности.

В начале года лишь немногие организации использовали большие языковые модели (LLM) и агентов искусственного интеллекта в своих рабочих процессах по кибербезопасности, в том числе для обнаружения и исправления уязвимостей. По данным Google, сейчас это происходит в больших масштабах.

Также: Количество инцидентов с использованием искусственного интеллекта достигает "десятков тысяч": могут ли компании доверять этим инструментам?

Возможности agentic AI быстро превосходят скорость и масштабы, с которыми могут работать традиционные центры управления безопасностью (SoCs). Нравится вам это или нет, в новой реальности ИИ играет важную роль для защитников и участников угроз.

Скорость и масштаб являются основными причинами, по которым предприятия рассматривают возможность внедрения искусственного интеллекта в SOCS и для обеспечения безопасности в более широком смысле, и эти факторы лежат в основе нового прогноза Google по безопасности на 2027 год — Перспективы облачного CISO. Однако без надлежащих мер предосторожности разработчики систем безопасности с использованием ИИ могут непреднамеренно увеличить площадь своих атак, а не уменьшить ее.

1. Оповещения об угрозах в вашем SOC передаются по цепочке вверх

Проблема усталости от оповещений хорошо известна всем командам SOC. Необходимо проверять сигнал тревоги за сигналом; многие из них не имеют отношения к делу или ложно срабатывают, что возлагает на квалифицированный персонал рутинную, утомительную и отнимающую много времени задачу их сортировки.

Теперь, когда автономные угрозы, управляемые искусственным интеллектом, могут исследовать сеть, проникать в нее и перемещаться по ней в поперечном направлении за считанные минуты, поиск данных об угрозах и предупреждений о безопасности из нескольких систем, зарегистрированных несколько дней или недель назад, не может помочь бизнесу в их устранении - и уж точно не с такой скоростью, с какой они возникают.

Согласно прогнозу Google, искусственный интеллект приведет к тому, что очередь оповещений незаметно исчезнет. Рамья Читракар, вице-президент по инженерным вопросам Google Cloud Security, считает, что "2027 год - это год, когда аналитики перестанут гоняться за предупреждениями и начнут формировать результаты".

Также: Искусственный интеллект - это одновременно и кибероружие, и массированная мишень

Как? Руководители CISO должны изменить саму модель оповещения. Вместо того, чтобы правозащитники сортировали оповещения в начале инцидента с кибербезопасностью, оповещение становится окончательным результатом, а автономные агенты обрабатывают "обогащение данных, корреляцию и сортировку автоматически, выдавая проверенный вывод, а не необработанный запрос", согласно Google.

Это означает, что эксперты по кибербезопасности могут контролировать обработку предупреждений и проверять автоматизированные действия, что потенциально позволяет им сосредоточиться на других задачах.

2. Agentic AI needs identities and paper trails

Custom agentic AI is often designed — or at least intended — to work autonomously, with human oversight. However, having thousands of individual agents working across multiple environments can create high-value entry points into corporate networks that cyberattackers target.

We need to think of agentic AI as more than a tool: each one needs its own identity, like a human employee, to operate within a zero-trust architecture, retain control, and reduce the risk of compromise.

Also: Your enterprise AI access can be sold for pennies – beware ‘LLM Mixers’

However, Heather Adkins, VP of security engineering at Google, thinks this needs to go further and suggests the zero-trust concept shouldn’t stop at the network layer. Instead, Adkins believes it needs to reach the transaction layer.

A paper trail for each agent needs to be established, which is impossible to handle manually, and even within a zero-trust framework, AI agents could be given too much scope. Instead, implement verification for each transaction and for every authorization, and assign each AI agent its own least-privilege set of credentials that can be revoked if there is a security incident or the agent is no longer required.

"When backed by real-time autonomous reasoning, we can dynamically allow a transaction on Tuesday and block the exact same request on Wednesday if conditions look anomalous," the report notes.

3. Software development speeds escalate

AI is being used to speed up the development and deployment of new software, and in 2027, security will have to become a continuous system embedded in the software delivery pipeline, according to Google.

Threat actors have carried out software supply chain attacks over the years, one of the most notable being the SolarWinds incident of 2020. Sandra Joyce, VP of Google Threat Intelligence, says cybercriminals are now poisoning everything from open-source code to software libraries, which AI coding assistants often pull automatically into codebases.

Also: How AI security failures are endangering your supply chain

Bug-fix tickets that take days to respond to and security appearing at the end of a software development cycle no longer work. Instead, writing and securing code must happen simultaneously, with the help of agentic AI, so speed doesn’t compromise security.

"It’s also crucial that we link live production environments directly back to source code so that defenders can trace a real-world exposure to the exact line of code, validate whether it is genuinely exploitable, and deliver a pre-tested fix at machine speed without breaking production," Google added.

4. Red-teaming agentic AI

As organizations rush to implement AI into their applications and services to appear "AI-first," innovative, and modern, security may be ignored or treated as an afterthought.

As a result, we may face a new, broader attack surface than we realize, as AI introduces new security issues, including software vulnerabilities, misconfiguration, bypasses, and indirect prompt injection attacks. Now that AI is also in the hands of all cyberattackers — from script kiddies to state-sponsored groups — auditing corporate networks and infrastructure is crucial.

Also: Who’s responsible for catching rogue AI agents? You are

Penetration testing and red team exercises now need to cover agentic AI. This wasn’t in scope for many red teams only a few years ago, but now that businesses have run with the idea of implementing AI in their workflows, processes, and products, organizations need to identify and fix security issues introduced by AI before threat actors take advantage of them.

CISOs should task pen testers with auditing before an autonomous workflow hits production, then combine the results with threat intelligence to ensure defenders have the information they need to bolster network defenses and harden classifiers against new and novel attacks.

5. Security at scale

The final significant trend we are likely to see in 2027 is tackling agent sprawl to create coordinated teams of AI agents that can rapidly handle security tasks at scale.

Single AI agents given general instructions won’t cut it when AI-assisted attackers can compromise endpoint devices, enter networks, move laterally, or start stealing data in a far shorter timeframe than before. Instead, CISOs should replace these "generalist" AI agents with specialized, orchestrated teams of AI agents that can meet the demands of defending against AI-driven attacks by employing specialist tooling and skill sets.

Also: AI agent kill switch urged by Okta-led alliance

CISOs also need to ensure that each agent has its own domain training and understanding, memory, and dedicated tools, and can act on its own within set limits, with a central coordinator that knows when to hand a decision to a human. This requires oversight, but in return, organizations will avoid agent sprawl, which the tech giant believes is the next iteration of shadow IT and its associated threats.

>

Читать на сайте источника »