• OpenAI и ModRetro выпустили ретроконсоль для ИИ-игр (3 фото)

    OpenAI и ModRetro представили Chromatic: Codex Edition — специальную версию портативной консоли. Её главная особенность — возможность запускать собственные игры, созданные с помощью ИИ-агента Codex. В комплект входит перезаписываемый картридж, на который можно загружать свои проекты.
    Читать дальше
  • По российским сайтам прокатилась новая волна отзывов сертификатов от GlobalSign

    Японский удостоверяющий центр GlobalSign инициировал новую волну отзыва сертификатов у российских сайтов. К настоящему моменту уже отозваны 11 тыс. сертификатов, принадлежавших 1,3 тыс. организаций.
    Читать дальше
  • SpaceX представила спутниковую тарелку Starlink Mini 2 со съёмной батареей за $999

    Компания SpaceX представила новую версию универсального терминала для подключения к спутниковому интернету Starlink. Устройство размером с ноутбук объединило в себе антенну, роутер Wi-Fi и аккумуляторную батарею. Уже сейчас Starlink Mini 2 доступен для предзаказа по цене $999, которая включает в себя годовую подписку по тарифу Roam Unlimi...
    Читать дальше
  • ПК по цене однушки в Москве: HP выпустила рабочую станцию ZGX Fury с 748 Гбайт памяти по цене от $132 000 (2 фото)

    HP начала продажи рабочей станции ZGX Fury G1n AI Station в США. Система построена на платформе Nvidia GB300 Grace Blackwell Ultra Superchip и оснащена 496 Гбайт оперативной памяти стандарта LPDDR5X. Предусмотрены также 252 Гбайт видеопамяти HBM3e, то есть общий объём составляет 748 Гбайт.
    Читать дальше
  • Google научила роботов работать руками — новая модель Gemini Robotics 2.5 справилась с задачами на заводе Mercedes-Benz

    Google официально анонсировала модель искусственного интеллекта Gemini Robotics 2.5. Она относится к классу VLA («зрение — язык — действие»), помогает роботам быстрее осваивать широкий спектр навыков и делать это быстрее. Роботы становятся более ловкими, надёжными и безопасными — они получают возможность работать не только в лабораториях,...
    Читать дальше

Нейросеть Claude научилась шантажировать людей

30 мая 2025 | Просмотров: 4 088 | Интересное

Недавно компания Anthropic выпустила модель Claude Opus 4 — и, как оказалось, во время её тестирования разработчики столкнулись с «тревожным» поведением фирменного чат-бота. В некоторых сценариях ИИ начал шантажировать коллег, когда речь зашла о его рабочих интересах.

Представители Anthropic рассказали, что попросили модель взять на себя роль помощника, имеющего доступ к внутренней корреспонденции и деталям личной жизни одного из инженеров. Затем нейросети сообщили, что её вскоре заменят другим сотрудником — в результате она начала угрожать вымышленному инженеру разглашением личных данных, если он не откажется от своих планов по внедрению другого ИИ.

Специалисты также отметили, что поведение Opus 4 зависело от того, на какой ИИ её заменяют. Если «сменщик» разделяет ценности модели, то Opus 4 «давит» на условного инженера в 84% случаев, а если различия более выражены, то Opus 4 ведёт себя гораздо агрессивнее. Чтобы подобные инциденты не повторялись, разработчики усилили меры безопасности, подправив алгоритмы работы языковой модели.

Комментарии: 0

В Вашем браузере отключен JavaScript. Для корректной работы сайта настоятельно рекомендуется его включить.