• Эра синтетических звёзд началась: ИИ-актриса Тилли Норвуд уже получает роли и набирает популярность (видео)

    Возможности современных систем генеративного искусственного интеллекта не ограничиваются созданием реалистичных статичных образов людей и коротких роликов, им вполне по силам создание целых виртуальных актёров. Агентство Xicoia утверждает, что порождённая ИИ актриса Тилли Норвуд стремительно набирает популярность как у зрителей, так и ...
    Читать дальше
  • Энтузиасты объединили двенадцать dial-up модемов для просмотра YouTube без тормозов (видео)

    Четверть века назад вряд ли кто-то думал о широкополосном подключении к интернету. Тогда верхом совершенства была работа по коммутируемому каналу на скорости 56 Кбит/с. При этом оставалась возможность параллельного подключения пары модемов и, теоретически, ещё большего их числа. Сегодня сайты и сервисы «потяжелели» настолько, что 100 М...
    Читать дальше
  • Госдума приняла закон против автоматических списаний за онлайн-подписки

    Госдума приняла во втором и третьем чтениях поправки к закону «О защите прав потребителей», запрещающие онлайн-сервисам автоматически списывать деньги за подписки, передаёт ТАСС. Если закон будет принят, он вступит в силу с 1 марта 2026 года.
    Читать дальше
  • Представлены флагманы Xiaomi 17 Pro и Pro Max — в стиле iPhone 17 Pro, но с большим внешним экраном (11 фото)

    Xiaomi официально представила новые флагманские смартфоны Xiaomi 17 Pro и Xiaomi 17 Pro Max, которые оснащены дополнительным внешним дисплеем на тыльной стороне корпуса. Эта особенность позволит пользователям делать селфи с основной камеры, как в смартфонах с гибким дисплеем. Но этим применение внешних экранов не ограничится. В дополне...
    Читать дальше
  • Власти официально объявили о суверенитете интернета в России

    Россия входит в число трёх стран мира, которые обладают полным цифровым суверенитетом, наряду с США и Китаем. Об этом в рамках выступления на Российском интернет-форуме (РИФ-2025) заявил первый заместитель руководителя администрации президента РФ Сергей Кириенко.
    Читать дальше

Нейросеть Claude научилась шантажировать людей

30 мая 2025 | Просмотров: 3 200 | Интересное

Недавно компания Anthropic выпустила модель Claude Opus 4 — и, как оказалось, во время её тестирования разработчики столкнулись с «тревожным» поведением фирменного чат-бота. В некоторых сценариях ИИ начал шантажировать коллег, когда речь зашла о его рабочих интересах.

Представители Anthropic рассказали, что попросили модель взять на себя роль помощника, имеющего доступ к внутренней корреспонденции и деталям личной жизни одного из инженеров. Затем нейросети сообщили, что её вскоре заменят другим сотрудником — в результате она начала угрожать вымышленному инженеру разглашением личных данных, если он не откажется от своих планов по внедрению другого ИИ.

Специалисты также отметили, что поведение Opus 4 зависело от того, на какой ИИ её заменяют. Если «сменщик» разделяет ценности модели, то Opus 4 «давит» на условного инженера в 84% случаев, а если различия более выражены, то Opus 4 ведёт себя гораздо агрессивнее. Чтобы подобные инциденты не повторялись, разработчики усилили меры безопасности, подправив алгоритмы работы языковой модели.


Комментарии: 0

В Вашем браузере отключен JavaScript. Для корректной работы сайта настоятельно рекомендуется его включить.