Создание систем безопасности с использованием искусственного интеллекта, на которые мы можем положиться: беседа с Харишем Джанардхананом

Старший научный сотрудник IEEE о том, почему устойчивость, конфиденциальность и стоимость имеют такое же значение, как и первичная производительность

Тесты ИИ в лабораторных условиях выглядят впечатляюще благодаря высокой точности и быстрому времени обработки. Но для Хариша Джанардханана, менеджера по разработке программного обеспечения в глобальной компании электронной коммерции и старшего сотрудника IEEE, реальная ценность ИИ проявляется в другом.

"Когда вы переносите ИИ из контролируемых демонстраций в производственные среды, где данные поступают с опозданием, неполными или неупорядоченными, картина кардинально меняется", - говорит Джанардханан. "Самой сложной частью никогда не были сами модели. Это укрепляет доверие к базовым данным, к рабочим процессам между человеком и искусственным интеллектом и к тому, кто несет ответственность за результат".

Более двух десятилетий Джанардханан занимался академическими исследованиями и проектированием на предприятиях. Его исследование, опубликованное в изданиях IEEE places и Journal of Information Systems Engineering and Management, указывает на сдвиг: переход от простой производительности к системам, которые являются устойчивыми, частными и экономически устойчивыми.

Работа Джанардханана основана на трех взаимосвязанных принципах. Адаптивная безопасность означает, что системы учатся на атаках, а не только реагируют на них. Сохранение конфиденциальности означает предоставление интеллектуальных данных без централизации конфиденциальных данных. Масштабируемая автономия означает, что сложные системы могут координировать свои действия в изменяющихся условиях реального мира.

Вместе эти три компонента работают как единая система: безопасность защищает данные, конфиденциальность обеспечивает их этичное использование, а автономия оптимизирует процесс принятия решений.

"Это не отдельные проблемы", - объясняет Джанардханан. "Они смещают акцент с оптимизации для обеспечения точности на обеспечение устойчивости, совместимости и эффективности всей системы в целом".

В его статье IEEE 2025, посвященной адаптивной кибербезопасности, показано, как организации, от банков до больниц, могут перейти от реагирования на угрозы к защите, которая со временем улучшается. Вместо того чтобы преследовать злоумышленников, его системы учатся на каждой попытке взлома, и взломать их становится все труднее.

Его работа над федеративным обучением, методом, при котором несколько организаций обучают одну общую модель искусственного интеллекта без объединения своих необработанных данных, напрямую затрагивает вопросы конфиденциальности. Больницы могут совместно обучать ИИ диагностике редких заболеваний, обмениваясь только обновлениями моделей, а не записями о пациентах, соблюдая при этом требования HIPAA, закона США о конфиденциальности пациентов, и GDPR, европейского закона о защите данных.

В проекте "Умная больница будущего" Джанардханан демонстрирует, как эти идеи работают вместе. Уровень, использующий иерархическое обучение с подкреплением, или HRL, метод искусственного интеллекта, который разбивает важные решения на более мелкие и управляемые, координирует обнаружение угроз, мониторинг сети и распределение защитных ресурсов по системам больницы.

Его анализ безопасности основан на генерации с дополненным поиском, или RAG, методе, который проверяет ответы на основе надежной базы данных, а не наугад. Каждое решение основывается на проверенных записях о кибербезопасности, известных схемах атак и системных журналах. Отдельный уровень, model context protocol, или MCP, затем претворяет эти решения в жизнь: устраняет уязвимости, изолирует части сети и запускает планы реагирования на инциденты.

Underneath, a three-stage defense builds up over time. Supervised learning establishes baseline threat recognition. CNN-based anomaly detection, a pattern-recognition method, continuously watches the network for unusual activity. Reinforcement learning then drives an adaptive response to isolate the threat. Alongside all this, federated learning keeps patient data local, training models without ever moving raw records off the hospital’s own systems.

"What we’re demonstrating," Janardhanan says, "is that AI can be intelligent, secure, and privacy-compliant at the same time. The Smart Hospital isn’t a distant future. It’s a blueprint for what’s achievable today."

Most AI research focuses only on accuracy. Janardhanan points to a blind spot that threatens enterprise AI adoption: cost. As organizations rush to deploy complex AI systems, many risk running into serious budget problems from uncontrolled usage.

"Economic sustainability is a technical requirement," Janardhanan says. "A system that is technically strong but burns through its entire budget in a week because of inefficient design is effectively unavailable to your organization."

He has built architectures that treat resource use as a core performance metric, designing systems that maintain steady, useful performance within strict budget limits, an approach that shapes how engineering leaders plan their own AI rollouts.

Janardhanan argues that the industry’s biggest failures happen at the system level, not the model level. Researchers optimize for accuracy on clean, static datasets, but real-world data is often messy and arrives out of order. Most failures happen where a model meets legacy infrastructure it wasn’t built for.

His frameworks aim to close that gap, so AI systems are not just intelligent but dependable. He envisions AI infrastructure that learns from the workloads it supports, managing security, privacy, and scalability on its own, freeing engineers to focus on building rather than firefighting.

"The goal," he says, "is to make AI systems so dependable that they become a seamless part of how organizations operate. Engineers shouldn’t have to treat security, privacy, or scalability as separate problems. The system should handle it."

Janardhanan is a Distinguished Fellow of the Soft Computing Research Society, a Raptors Fellow, and an IEEE Senior Member, a distinction reserved for members with significant professional accomplishments. He is a peer reviewer for several IEEE conferences and has received the Apex Award and the International TechXcellence Leadership Award for his work on intelligent, dependable, and cost-aware AI systems.

He recently delivered keynote addresses at the International Conference on Intelligent Computing and Sustainable Technologies (ICST 2026), hosted by the Indian Institute of Technology (IIT) Patna, and the International Conference on Networks, Computing Systems and Data Analytics (ICNCDA-2026), organized by the University of Essex, UK.

His research is available on Google Scholar.

>