Лобушкин

Мы тут прочитали интересную статью в Nature про то, что ИИ настолько хорош в биологии, но к этому совершенно не готовы законы. То есть уже сегодня искусственный интеллект умеет проектировать белки, генетические последовательности и другие разные биологические конструкции. А если подключить роботизированную лабораторию, то получится полноценный замкнутый цикл: ИИ придумывает, роботы собирают, тестируют, результаты возвращаются ИИ, и он проигрывает другие варианты. Но тут исследователи решили проверить, насколько к такому будущему готовы законы 16 юрисдикций, и обнаружили там гигантскую серую зону. Если ИИ придумывает новую последовательность ДНК, то совсем непонятно, что это такое с точки зрения государства. А классификация крайне важна. Причём системы безопасности могут искать уже известные опасные последовательности и организмы, а ИИ может спроектировать то, чего ещё нет в списках и базах. А ещё всё запутаннее и сложнее становится, когда в проекте участвуют лаборатории из разных стран. Получается картина, о которой мы пишем буквально 3-й год: нет никакой законодательной базы под ИИ, хотя прорыв уже есть. Ну то есть сегодня мы уже обсуждаем возможные научные прорывы и решения задач, над которыми человечество думает по 100–200 лет, а законы под это всё не придуманы. Да здравствует ИИ-анархия. @lobushkin

Новая обложка американского Newsweek с принцем Уильямом. К слову, насколько же хорошо она отображает суть материала, о котором пишет издание. А материал там о том, как далеко будущий король зайдёт в попытке сделать монархию народной и близкой. Вот и идёт среднестатистический британец с тенью короля. Выглядит это очень круто. @lobushkin

Искусственный интеллект учат сначала «проигрывать» последствия своих действий в «голове». Исследователи представили CIPHER-A — это такая система для автономной киберзащиты. Она поможет решить одну из самых очевидных проблем. ИИ может быстро планировать и придумать, как останавливать или начинать атаки, но его собственные решения иногда могут навредить инфраструктуре сильнее хакера. Теперь же перед реальным действием система моделирует возможные сценарии последствий. На этом система не заканчивает симуляцию, а после каждого действия отдельный ИИ-агент пытается предсказать, что дальше будет делать атакующий. По сути, система превращает киберзащиту в шахматную партию между постоянно адаптирующимися игроками. Это максимально актуально, учитывая последние новости о взломах, когда сами ИИ-агенты проводят тысячи операций и проводят цепочки атак быстрее человека. @lobushkin

ИИ-компания Илона Маска xAI, возможно, обучала Grok на детской порнографии. Одна из жертв подала в суд на компанию. Материалы пострадавшей были в сети и регулярно удалялись из-за хеш-меток. Такие метки используют специально для блокировки фото и видео. Но недавно жертва получила уведомление, что появились новые материалы. Они были сгенерированы Grok. Расследование показало, что компания скормила материалы ИИ, а пользователи даркнета смогли обойти цензуру и сгенерировали новые откровенные фото. @lobushkin