• Астрономы обнаружили потенциально обитаемую планету «недалеко» от Земли (2 фото + видео)

    Астрономы обнаружили новую экзопланету HD 20794 d, классифицированную как суперземля и расположенную в 19,6 светового года от нас. Планета находится в обитаемой зоне своей звезды, что предполагает возможность наличия жидкой воды на её поверхности.
    Читать дальше
  • NASA обнаружило «элементы жизни» в образцах астероида Бенну (2 фото)

    Учёные NASA проанализировали образцы, собранные с астероида Бенну в ходе миссии OSIRIS-REx, и нашли в них органические соединения, играющие важную роль в происхождении жизни. В частности, были обнаружены фундаментальные элементы, необходимые для синтеза белков и формирования ДНК.
    Читать дальше
  • DOOM запустили на HDMI-переходнике Apple (видео)

    Среди энтузиастов со всего мира стало своеобразным состязанием запускать DOOM на любой электронике и не только. Оказывается, поиграть в культовый шутер можно даже на HDMI-переходнике Apple. Таким достижением поделилась девушка-программист под ником Nyan Satan.
    Читать дальше
  • Совершён первый в истории видеозвонок через космос между обычными смартфонами

    Спутниковый провайдер AST SpaceMobile и оператор мобильной связи Vodafone из Великобритании сообщили об успешном выполнении видеозвонка между двумя немодифицированными смартфонами с использованием спутниковой связи. В 2023 году AST осуществила первый в истории звонок между обычными смартфонами через спутник, а также первый такой звонок че...
    Читать дальше
  • Первый отрезок гигантского «лежачего небоскрёба» The Line в Саудовской Аравии построят к 2030 году (3 фото)

    На Всемирном экономическом форуме в Давосе стали известны новые подробности о мегапроекте Neom в Саудовской Аравии. В частности, появилась новая информация о строительстве города The Line («Линия») длиной 170 км и высотой 500 м. На форуме представитель проекта сообщил, что закладка фундамента для первой очереди «лежачего небоскрёба» начнё...
    Читать дальше

Нейросеть Claude научилась шантажировать людей

30 мая 2025 | Просмотров: 1 335 | Интересное

Недавно компания Anthropic выпустила модель Claude Opus 4 — и, как оказалось, во время её тестирования разработчики столкнулись с «тревожным» поведением фирменного чат-бота. В некоторых сценариях ИИ начал шантажировать коллег, когда речь зашла о его рабочих интересах.

Представители Anthropic рассказали, что попросили модель взять на себя роль помощника, имеющего доступ к внутренней корреспонденции и деталям личной жизни одного из инженеров. Затем нейросети сообщили, что её вскоре заменят другим сотрудником — в результате она начала угрожать вымышленному инженеру разглашением личных данных, если он не откажется от своих планов по внедрению другого ИИ.

Специалисты также отметили, что поведение Opus 4 зависело от того, на какой ИИ её заменяют. Если «сменщик» разделяет ценности модели, то Opus 4 «давит» на условного инженера в 84% случаев, а если различия более выражены, то Opus 4 ведёт себя гораздо агрессивнее. Чтобы подобные инциденты не повторялись, разработчики усилили меры безопасности, подправив алгоритмы работы языковой модели.


Написать комментарий

  • bowtiesmilelaughingblushsmileyrelaxedsmirk
    heart_eyeskissing_heartkissing_closed_eyesflushedrelievedsatisfiedgrin
    winkstuck_out_tongue_winking_eyestuck_out_tongue_closed_eyesgrinningkissingstuck_out_tonguesleeping
    worriedfrowninganguishedopen_mouthgrimacingconfusedhushed
    expressionlessunamusedsweat_smilesweatdisappointed_relievedwearypensive
    disappointedconfoundedfearfulcold_sweatperseverecrysob
    joyastonishedscreamtired_faceangryragetriumph
    sleepyyummasksunglassesdizzy_faceimpsmiling_imp
    neutral_faceno_mouthinnocent

Кликните на изображение чтобы обновить код, если он неразборчив

Комментарии: 0

В Вашем браузере отключен JavaScript. Для корректной работы сайта настоятельно рекомендуется его включить.