Василий Старостенко: Безопасность ИИ
Проблема: ИИ внедряется в реальный мир быстрее, чем успевает развиваться инженерия безопасности. Компании выпускают автономные и полуавтономные системы, а затем обнаруживают, что самые сложные сбои связаны с человеческим фактором: операторы теряют бдительность, супервайзеры теряют ситуационную осведомленность, системы оповещения подают ложные сигналы. Безопасность добавляется уже после запуска — как правило, после инцидента.
Почему Василий: у него есть запатентованные ответы именно на эти проблемы. Будучи руководителем продукта по эксплуатации беспилотного автопарка в Waymo, он является соавтором четырех выданных патентов США, охватывающих уровень безопасности для операторов автономных транспортных средств: тестирование психомоторной бдительности (US 11,826,146), тестирование ситуационной осведомленности (US 12,024,206), мониторинг движений головы (US 11,912,307) и мониторинг усталости (US 11,738,763). Это не просто рассуждения о безопасности ИИ — это зарегистрированная интеллектуальная собственность, созданная в процессе управления беспилотным автопарком в нескольких городах.
Что вы получаете: оценку безопасности ИИ, которая выявляет реальные режимы сбоев вашей системы — пробелы в мониторинге, пути эскалации и моменты, за которые никто не несет ответственности; анализ человеческого фактора того, как ваши операторы или пользователи на самом деле сохраняют бдительность внутри автоматизированной системы; и постоянное консультирование при проектировании критически важных для безопасности функций. Безопасность как система, а не как функция.
Доказательства: два года руководства эксплуатацией беспилотного автопарка Waymo на этапе от исследований до коммерциализации, четыре выданных патента в области безопасности автономных систем и двадцать лет руководства продуктами, где надежность никогда не была опциональной. Будучи постоянным спикером по вопросам автоматизации, он подходит к контролю с той же строгостью, которую большинство команд резервируют для самой машины.
Ставки растут и выходят за пределы транспортных средств. Те же проблемы человеческого фактора, для которых Василий запатентовал решения — снижение бдительности, потеря ситуационной осведомленности, усталость оператора — теперь применимы к любой ИИ-системе с участием человека: ко-пилотам, агентам, автоматизированным центрам управления. Будучи постоянным спикером по вопросам автоматизации, он привносит скептицизм практика в «театр безопасности». Реальная безопасность измеряется понятными режимами сбоев, протестированными путями эскалации и системами, которые становятся безопаснее после каждого инцидента. Если ваш ИИ взаимодействует с реальным миром, эта строгость не является опциональной — и ее невозможно внедрить задним числом.
Связаться с Василием Старостенко Телефон: +1 (650) 523-4953 — нажмите кнопку вызова на этой странице, чтобы связаться с ним напрямую. Приоритетное планирование ($2,000 для ускорения планирования): https://buy.stripe.com/aEUdTVbwtfjn5A49AA Каждое взаимодействие является конфиденциальным, индивидуальным и ориентированным на измеримые результаты.
