Peregrine Technologies не позволит ИИ сказать последнее слово о том, кто видит конфиденциальные данные

Большинство американцев с беспокойством относятся к данным. В ходе опроса, проведенного исследовательским центром Pew Research Center в 2023 году, 71% опрошенных заявили, что они обеспокоены тем, как правительство использует данные, которые оно собирает о них, по сравнению с 64% четырьмя годами ранее, а 79% заявили, что практически не ощущают контроля над этим. Каждая запись, хранящаяся в полицейском управлении или округе, касается конкретного человека, и сотрудники ведомства могут счесть, что это вопрос гражданских свобод.

Компания Peregrine Technologies недавно представила часть технологической инфраструктуры, построенной именно на этой основе. Политики доступа Peregrine - это специальный механизм для управления тем, кто может видеть, что происходит внутри агентств, использующих платформу компании, и то, как она построена, служит подтверждением того, какое место ИИ занимает в чувствительных системах.

Поскольку платформа обработки данных привлекает все больше пользователей и источников, правила о том, кто может просматривать каждый источник, как правило, прописываются непосредственно в коде приложения, по одному запросу за раз. Со временем создается система, которую никто не может полностью увидеть. Роли накладываются друг на друга, конфигурации взаимодействуют, и администратор не может ответить на простой вопрос: кто в моей организации может получить доступ к каким данным?

Для большинства программ это создает неудобства. Для агентства, хранящего конфиденциальные записи, это может привести к сбою в управлении. Допустимые настройки по умолчанию, экспорт данных без регистрации и несогласованный контрольный журнал - это отдельные недостатки, но вместе они расширяют возможности для злоумышленника или неавторизованного инсайдера.

Политики доступа Peregrine Technologies выводят эти правила из кода приложения в отдельный движок. Администраторы простым языком описывают, чего они хотят. Политика может гласить: ограничьте доступ к записям нашего агентства, чтобы только авторизованные сотрудники, вошедшие в систему из одобренной внутренней сети, могли просматривать их. Затем искусственный интеллект Peregrine генерирует код, который обеспечивает соблюдение этого правила.

Политика может быть протестирована на собственных пользователях и данных агентства перед ее запуском, чтобы администратор мог точно знать, когда она разрешит или запретит доступ. Как только политика включена, каждая проверка регистрируется с точным указанием запущенного кода и полученного результата, а более старые версии остаются доступными после изменения правила.

Перегрин откровенно говорит, что недетерминированное поведение больших языковых моделей является реальной проблемой в сфере безопасности и управления, где непредсказуемый ответ неприемлем. Ответ компании заключается в том, чтобы позволить ИИ создавать черновики, но обеспечить, чтобы люди их проверяли. Использование компьютера снижает трудозатраты на написание политики, в то время как ведение журнала проверки и аудита осуществляется человеком.

To make AI-generated policy code trustworthy, Peregrine narrowed the options rather than widening them. A general-purpose language like Python can express almost anything, but that same flexibility makes code harder to analyze, validate, and audit, which are the qualities that matter most when the code decides who sees sensitive data.

So the engine is built on Cedar, an open-source policy language that Amazon Web Services released in 2023. Cedar fit the job for reasons that matter to the non-engineers who own policy. It is readable, with a syntax close enough to plain language that compliance officers, records managers, and IT leads can read a rule and confirm it matches their intent. It is secure by default: access is denied unless a rule explicitly allows it, an explicit denial always overrides a permission, and any condition a policy does not handle fails closed. And it is fast, evaluating rules in milliseconds.

Internal controls govern who inside an agency can reach what. An administrator can restrict access by email domain, for instance, or switch off specific capabilities such as the ability to export data. Partner controls govern data an agency shares outward. Before an outside partner’s users can touch shared data, the agency can require them to meet security conditions, such as connecting from a secure IP range or authenticating through an approved identity provider.

Both types of control are written in plain language, tested before they take effect, and recorded on an immutable audit log that captures every policy evaluation. If an agency ever needs to establish who viewed a given record at a given time, the record of it is in the log.

Peregrine’s larger argument is that this kind of governance is becoming mandatory rather than optional. The company does not collect, create, or sell data; its platform makes the information an organization already holds more usable. As AI agents begin to act inside these systems, the discipline that applies to human users has to apply to agentic ones, too: spelling out what every actor, person or agent, is allowed to do, enforcing it as the system runs, and logging it where no one can quietly alter it.

Peregrine Technologies is in the business of turning scattered information into a clear operational picture, so the organizations that run on it can plan, respond, and coordinate more effectively. Its access policies are the company’s argument that doing that responsibly, inside institutions the public depends on, starts with being able to answer a plain question at any moment: who can see this record, and who already has?

Featured image credit

>