ИИ теперь может перехитрить банки и украсть ваши деньги: Сэм Альтман предупреждает
Искусственный интеллект (ИИ) неуклонно совершенствуется, оказывая помощь человечеству в самых разных областях. Однако возможности ИИ используются не только в благих целях. Киберпреступники активно применяют ИИ для разработки изощренных схем обмана, нацеленных на хищение денежных средств. Технология дипфейков, созданных с использованием ИИ, превратилась в глобальную проблему, что побудило генерального директора OpenAI, Сэма Альтмана, призвать банки и финансовые организации к опережающему мышлению, чтобы эффективно защищать финансовые активы.
Выступая на конференции Федеральной резервной системы, Альтман выразил обеспокоенность тем, что финансовый сектор недооценивает возрастающую опасность мошеннических действий, осуществляемых с использованием ИИ. Он подчеркнул, что современные системы искусственного интеллекта способны обходить даже самые передовые механизмы защиты, и игнорирование этой угрозы может привести к серьезным последствиям.
"Меня беспокоит, что некоторые финансовые учреждения до сих пор применяют голосовую биометрию для аутентификации", - отметил Альтман. "Это крайне неразумно. ИИ полностью нивелировал эффективность большинства современных методов аутентификации".
Альтман подчеркнул, что голосовая аутентификация, ранее считавшаяся передовым решением для защиты средств состоятельных клиентов, быстро теряет свою актуальность. Голосовые клоны, созданные с помощью ИИ, становятся все более распространенными и убедительными, что делает системы аутентификации уязвимыми. В ближайшем будущем, по его мнению, видеодипфейки могут повторить эту тенденцию, атакуя системы распознавания лиц и размывая грань между реальностью и подделкой.
Предупреждения Альтмана прозвучали на фоне растущей обеспокоенности в финансовой сфере и других отраслях относительно использования ИИ злоумышленниками для кражи денег. Генеративный ИИ облегчает совершение мошеннических действий. От выдачи себя за руководителей высшего звена в корпоративных аферах до обмана родителей с использованием поддельных сообщений от их детей о бедственном положении – эта угроза перешла из разряда теоретических в реальную плоскость. В прошлом году ФБР зафиксировало увеличение числа мошеннических схем, связанных с использованием ИИ, включая случаи, когда киберпреступники выдавали себя за сенатора Марко Рубио для связи с высокопоставленными чиновниками.
"Я серьезно обеспокоен тем, что мы приближаемся к масштабному кризису, связанному с мошенничеством", - подчеркнул Альтман. "Сейчас это голосовой вызов. Вскоре это будет FaceTime, неотличимый от реальности".
Следует отметить, что Альтман не впервые выражает обеспокоенность по этому поводу. Глава OpenAI часто говорит о двойственной природе искусственного интеллекта. Он признает, что ИИ способствует повышению производительности, ускоряет научные открытия и трансформирует различные отрасли. Однако, ИИ также сопряжен с беспрецедентными рисками, особенно при злоупотреблении или ненадлежащем управлении.