Фейковая «Безопасность»: Telegram-аккаунты снова крадут через сообщения

Хакеры создали поддельную службу безопасности. Google исключила из своих принципов использования искусственного интеллекта пункт, в котором содержалось обещание избегать применения технологии в потенциально вредных целях, включая разработку оружия.

Ранее в документах компании существовал раздел под названием «Применения ИИ, которые мы не будем развивать», где перечислялись «технологии, которые причиняют или могут причинить общий вред», включая оружие. Однако, как сообщает Bloomberg, этот текст больше не представлен на странице.

В ответ на запрос о комментарии Google сослалась на блог , опубликованный во вторник. В нем старший вице-президент Google Джеймс Маника и глава Google DeepMind Демис Хассабис заявили: «Мы верим, что демократии должны лидировать в разработке ИИ, опираясь на такие ценности, как свобода, равенство и уважение прав человека».

Google также прокомментировала изменения для TechCrunch, сославшись на новый блог об «ответственном ИИ». В нем говорится: «Мы верим, что компании, правительства и организации, разделяющие эти ценности, должны работать вместе, чтобы создавать ИИ, который защищает людей, способствует глобальному развитию и поддерживает национальную безопасность».

Маргарет Митчелл, бывший сопредседатель команды Google по этике ИИ, а ныне главный специалист по этике в стартапе Hugging Face, считает, что это изменение может повлиять на работу компании. «Удаление этого пункта стирает достижения многих специалистов и активистов в сфере этики ИИ. Это также может означать, что Google, вероятно, теперь готова разрабатывать технологии, способные убивать людей», — заявила она.

Экс-глава направления «Ответственный ИИ» в Google Cloud Трейси Пиццо Фрей отметила, что принципы ИИ помогали её команде анализировать свою работу и повышать качество продуктов. «Ответственный ИИ создает доверие, а без доверия невозможно добиться успеха», — сказала она.

В последние годы Google подвергался критике за сотрудничество с военными США и Израиля, поставляя им облачные вычислительные мощности. Хотя компания заявляет, что ее технологии не используются для нанесения вреда, глава Пентагона по ИИ недавно сообщил TechCrunch, что модели некоторых компаний уже ускоряют процесс принятия решений в «цепочке уничтожения» американской армии.

Изменение политики Google совпадает с общим трендом среди крупных технологических компаний. В январе Meta* свернула часть инициатив по диверсификации персонала, отменив обязательные интервью для кандидатов из недостаточно представленных групп. В тот же период Amazon прекратил ряд программ по инклюзивности, назвав их устаревшими.

Внутри Google споры о балансе между этическими принципами и конкурентной гонкой ведутся давно. С момента выхода ChatGPT в 2022 году компания испытывает давление и стремится сохранить лидерство в ИИ. В 2023 году некоторые сотрудники выражали опасения, что ради конкуренции Google идет на компромиссы в этических вопросах.

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.

«Терминатор» на поле боя: Маск предупреждает об угрозе ИИ

Предприниматель призвал США наращивать производство. Илон Маск выразил мнение, что в случае начала конфликта между крупными державами ключевую роль в боевых действиях будут играть беспилотные технологии и искусственный интеллект. Это заявление он сделал во время выступления в Военной академии США в Вест-Поинте в августе прошлого года, а видеозапись его речи была опубликована на YouTube в феврале.

По словам предпринимателя, современные вооруженные конфликты уже во многом зависят от дронов, что можно наблюдать на примере различных стран, которые активно используют беспилотные системы. Он подчеркнул, что в случае глобального противостояния на поле боя доминировать будут именно дроны, а также технологии искусственного интеллекта.

Маск также отметил, что необходимо сосредоточить усилия на развитии беспилотных систем и наращивании их производства. Он подчеркнул, что зачастую государства готовятся к войнам прошлого, игнорируя перспективные технологии, которые определят будущие вооруженные конфликты.

Выразив обеспокоенность по поводу военного применения искусственного интеллекта, Маск указал на возможные негативные последствия, сравнив их с развитием сюжета фильма «Терминатор». Он попросил присутствующих сотрудников Военной академии избежать этого сценария.

Одумались: Администрация Трампа расширяет программу увольнений на CISA, ЦРУ и АНБ

Для тех, кто раздумывал об уходе, теперь созданы максимально комфортные условия. Администрация Трампа расширила программу добровольного увольнения на сотрудников Агентство кибербезопасности и инфраструктурной безопасности (CISA) , ЦРУ и АНБ , хотя ранее эти агентства считались исключением из-за их принадлежности к аппарату национальной безопасности. Теперь сотрудникам предоставляется возможность покинуть службу и сохранить зарплату и льготы до конца сентября, если они уволятся до 6 февраля.

Изначально CISA была исключена из программы , но 5 февраля её сотрудникам предложили добровольный уход, причём на принятие решения им дали всего несколько часов. Внутренние источники утверждают, что этот шаг вписывается в более масштабные усилия администрации по сокращению госаппарата.

Схожие предложения получили сотрудники АНБ, которым также предложили либо воспользоваться программой «развилка» (Fork in the Road), либо оформить досрочный выход на пенсию. Вопрос о том, распространяется ли предложение на всех сотрудников агентства, остаётся открытым.

Между тем Министерство обороны и Управление кадровой службы (OPM) пытаются ограничить увольнения, ссылаясь на угрозы нацбезопасности, но DOGE оказывает давление на ведомства, требуя максимального сокращения кадров.

ЦРУ также предложило своим сотрудникам уйти по программе досрочного увольнения, оправдывая это необходимостью перестроить агентство в соответствии с приоритетами администрации. Новый директор ЦРУ Джон Рэтклифф заявил, что изменения направлены на приведение работы ведомства в соответствие с национальной стратегией.

Аналогичная политика коснулась и Агентства США по международному развитию (USAID): все сотрудники организации переведены в административный отпуск, а работа зарубежных представительств приостановлена. Это часть стратегии администрации по сокращению внешней помощи и ликвидации программ цифровой безопасности, ранее поддерживаемых агентством.

Таким образом, чистка в госаппарате США затронула даже агентства, отвечающие за нацбезопасность, вызывая обеспокоенность среди экспертов по кибербезопасности и разведке. Тем не менее, ранее сотрудники чувствовали ещё большую неопределённость, так как по 8 зарплат им никто не обещал, а вот вопрос сокращения и без того стоял крайне остро .

Вместо помощи — господство: ИИ может лишить людей реальной власти

Искусственный интеллект может постепенно лишить человечество контроля над ключевыми системами общества, предупреждают исследователи из Карлова университета в Праге и Telic Research. В своей работе они описывают новый экзистенциальный риск — «постепенное лишение власти» человеческого влияния, которое может привести к необратимым последствиям.

Авторы исследования подчеркивают, что даже небольшие улучшения ИИ способны подорвать влияние человека на экономику, культуру и государственные институты. В отличие от сценариев внезапного захвата власти сверхразумными машинами, этот процесс развивается постепенно: системы на базе ИИ все больше заменяют человеческий труд и принятие решений, что ослабляет как явные механизмы контроля (например, выборы и потребительский спрос), так и неявное соответствие ИИ человеческим интересам.

Чем меньше социальные и экономические системы зависят от людей, тем меньше у них остается возможностей для воздействия на эти процессы. К примеру, если искусственный интеллект управляет экономикой, он может оптимизировать ее по параметрам, не учитывающим интересы большинства людей. Со временем это приведет к тому, что человечество утратит рычаги влияния на ключевые сферы жизни.

Исследование рассматривает три ключевые сферы, в которых постепенное лишение власти людей может привести к серьезным последствиям:

1. Экономика. В отличие от предыдущих технологий, ИИ способен заменить не только физический, но и когнитивный труд практически во всех отраслях. Рыночные механизмы и отсутствие жесткого регулирования создают мощные стимулы для его внедрения. В лучшем случае это приведет к относительному обесцениванию, при котором люди остаются в достатке, но теряют экономическое влияние. В худшем — к абсолютному обесцениванию, когда люди окажутся неспособными обеспечивать даже базовые потребности.

2. Культура. Искусственный интеллект может заменить человека во всех ключевых культурных сферах, от журналистики до искусства. Проблема в том, что общество не обладает «культурными антителами» для противостояния этому влиянию. Относительное обесценивание выразится в том, что традиционная культура останется, но потеряет влияние. Абсолютное — в том, что культурная эволюция выйдет за пределы человеческого понимания и управления.

3. Государственное управление. ИИ способен сократить зависимость государств от человеческого участия. Политическая конкуренция, бюрократическая эффективность и желание элит усилить контроль ускорят внедрение ИИ в управление. В результате граждане могут постепенно утратить реальный контроль над государственными институтами. В крайнем случае ИИ-управляемые государства могут стать самоподдерживающимися структурами, где приоритетом станет не благополучие людей, а собственная власть.

Исследователи предлагают несколько стратегий, которые помогут предотвратить потерю контроля над социальными системами:

• Разработка метрик для измерения уровня обесценивания человеческого участия в экономике, культуре и политике.
• Введение механизмов регулирования ИИ через законы, налоговые инструменты и культурные ограничения.
• Усиление демократических процессов и повышение осведомленности граждан о рисках ИИ.
• Создание «ИИ-депутатов», которые будут представлять человеческие интересы при разработке решений.
• Фундаментальные исследования в области социотехнического баланса, направленные на обеспечение согласования ИИ с долгосрочными интересами человечества.

Исследователи подчеркивают, что проблема заключается не только в предотвращении агрессивного поведения ИИ, но и в сохранении способности человека управлять ключевыми общественными процессами. Без четкого понимания того, как поддерживать реальное влияние людей в мире, управляемом алгоритмами, человечество рискует оказаться в положении, из которого невозможно будет выбраться.

Скандал с продажей б/у HDD от Seagate под видом новых не утихает: следы ведут к китайским криптофермам

Вокруг американской компании Seagate продалжается скандал, связанный с продажей бывших в употреблении жёстких дисков (HDD) серверного класса под видом новых. Нити расследования ведут к китайским майнинговым фермам, однако не исключается, что поддельные HDD приобретались дистрибьюторами через каналы, не являющиеся официальными.

Как сообщает Tom's Hardware, предварительные данные указывают на то, что изношенные HDD поступают из Китая, предположительно с криптоферм, где ранее добывали монету Chia. В период пикового спроса на эту криптовалюту наблюдался дефицит и удорожание жёстких дисков. Однако после спада рентабельности многие фермы закрылись, а накопители с наработкой от 15 000 до 50 000 часов начали наводнять рынок под видом новых устройств.

К настоящему моменту зарегистрировано более 200 случаев обнаружения контрафактных HDD по всему миру, включая Европу, Австралию, Таиланд и Японию. Первые сообщения о мошенничестве появились в январе, когда выяснилось, что якобы новые диски Seagate Exos для дата-центров уже отработали тысячи часов. Чтобы скрыть фактический износ, злоумышленники сбрасывают параметры SMART, отслеживающие использование накопителя. Однако более глубокий анализ с использованием запроса к значениям FARM полностью раскрывает историю эксплуатации.

Ритейлеры по-разному отреагировали на скандал. Компания Alternate утверждает, что ни магазин, ни его немецкие поставщики не знали о том, что диски не являются новыми, но признаёт, что клиенты обращались с жалобами в магазин по электронной почте. Galaxus создала специальную страницу помощи, а Proshop предлагает бесплатный возврат и замену товара. Некоторые продавцы ссылаются на действие законов о гарантии, в то время как Wortmann настаивает на проверке HDD перед выплатой компенсации.

Seagate отрицает свою причастность к мошеннической схеме, заявив о начале полномасштабного расследования и предложив инструмент для проверки подлинности HDD. Компания утверждает, что распространяет только оригинальные устройства хранения данных и призвала пострадавших покупателей сообщать о случаях мошенничества непосредственно по адресу fraud@seagate.com.

Покупатели, обеспокоенные своим приобретением, могут проверить реальное время работы HDD с помощью значений FARM. Для этого необходимо использовать приложение Smartmontools версии 7.4 или выше и применить команду smartctl -l farm /dev/sda или программное обеспечение Seatools от Seagate.

Илон Маск открыл охоту на редакторов Википедии

Wikimedia Foundation строит цифровой бункер для хранителей знаний. Фонд Wikimedia Foundation разрабатывает новые инструменты для защиты анонимности редакторов Википедии на фоне усиливающегося давления со стороны Илона Маска и фонда Heritage Foundation. Меры направлены на предотвращение преследования и юридических угроз, особенно в странах с авторитарными режимами, где редактирование Википедии может быть опасным.

Недавно стало известно, что Heritage Foundation разрабатывает стратегию Wikipedia Editor Targeting, направленную на выявление и преследование редакторов, которых фонд считает предвзятыми. Для этого предлагается анализировать текстовые паттерны, использовать утечки данных, отслеживать геолокацию и даже применять распознавание лиц через сервис Pimeyes. В документе также описаны методы создания поддельных аккаунтов для провокации участников Википедии и выявления их личностей.

На фоне таких угроз руководство Wikimedia Foundation провело ряд встреч с сообществом, обсуждая способы повышения безопасности редакторов. Учредитель Википедии Джимми Уэйлс отметил , что обеспокоен активизацией нападок со стороны Маска и других критиков проекта. В Wikimedia подчеркнули, что юридическое и физическое давление на участников Википедии растёт во всем мире, а организация стремится адаптироваться к новой реальности.

Одним из ключевых шагов стало изменение политики отображения IP-адресов. Сейчас, если пользователь вносит правки без авторизации, его IP становится видимым. Новый механизм «временных аккаунтов» позволит скрывать адрес случайным именем пользователя. Доступ к IP-адресам будет ограничен только для проверенных участников, борющихся с вандализмом.

Wikimedia также рассматривает расширение практики создания «легальных клонов» учетных записей. В некоторых языковых версиях Википедии уже можно регистрировать дополнительный анонимный аккаунт для работы с чувствительными темами. Это позволяет редакторам защищать свою личность, не нарушая внутренние правила платформы.

Фонд также минимизирует объем данных, которые хранит о пользователях. IP-адреса удаляются через 90 дней, а в первой половине 2024 года Wikimedia удовлетворила лишь 2 из 26 запросов на раскрытие информации. Дополнительно была создана программа юридической защиты редакторов, попавших под юридическое давление, если их вклад в Википедию признан добросовестным.

Несмотря на все меры, остаются сомнения в их достаточности для защиты от организованных атак. Децентрализованная структура Википедии делает платформу устойчивой к попыткам захвата, но не гарантирует полной безопасности редакторов. На одном из собраний прозвучал вопрос о переносе штаб-квартиры Wikimedia Foundation за пределы США, однако юристы сочли это нецелесообразным: переезд обойдётся в сотни миллионов долларов и не избавит платформу от американского законодательства.

Фонд продолжает следить за ситуацией, адаптируя политику безопасности к новым вызовам. При этом Wikimedia намерена учитывать риски для редакторов при организации офлайн-мероприятий, таких как ежегодная конференция Wikimania. Пока неясно, насколько эффективными окажутся предпринимаемые меры, но Википедия остаётся одной из немногих площадок, где доступ к информации обеспечивают независимые редакторы, несмотря на внешнее давление.

«Это уже не шутки»: Скарлетт Йоханссон требует защитить людей от ИИ

Дипфейк с ее участием разозлил Голливуд. Голливудская актриса Скарлетт Йоханссон призвала правительство США срочно принять закон, ограничивающий использование искусственного интеллекта. Причиной стало появление в сети дипфейкового видео, где она и другие еврейские знаменитости, включая Джерри Сайнфелда, Милу Кунис, Джека Блэка и Дрейка, появляются в кадре в белой футболке с изображением руки с вытянутым средним пальцем. В центре руки изображена звезда Давида, а под ней написано имя «Канье».

Йоханссон назвала происходящее «ужасающим» и обвинила власти в бездействии. «Правительство США парализовано, когда речь идет о защите граждан от угроз ИИ», — заявила она в интервью People. По ее словам, дипфейки и другие технологии искусственного интеллекта могут стать мощным оружием дезинформации и разжигания ненависти.

Видеоролик появился на фоне очередного скандала вокруг рэпера Ye (ранее известного как Канье Уэст), который вернулся в соцсеть X* и опубликовал антисемитские комментарии. Кроме того, он начал продавать футболки со свастикой на своем сайте, который вскоре был удален.

Йоханссон подчеркнула, что не терпит антисемитизма, но проблема ИИ выходит за рамки отдельных случаев. «Умноженная искусственным интеллектом ненависть представляет собой гораздо большую угрозу, чем любой отдельный человек», — заявила она.

Актриса призвала законодателей немедленно принять меры. «Это вопрос, который касается будущего всего человечества. Нам необходимо ограничить злоупотребление ИИ, иначе мы потеряем связь с реальностью», — добавила она.

Йоханссон давно выступает против неконтролируемого использования ИИ. В 2023 году она подала в суд на разработчиков приложения за незаконное использование ее образа в рекламе, а позже обвинила OpenAI в том, что голос одного из виртуальных помощников ChatGPT слишком напоминает ее. После этого OpenAI отказалась от использования спорного голоса.

* Социальная сеть запрещена на территории Российской Федерации.

Достижения пиратов в России в 2024 году

Геймеры из России загрузили пиратских версий игр на 281 млрд рублей в 2024 году. Информацию об этом сообщили в пресс-службе онлайн-школы XYZ. Данные основаны на опросе российских геймеров и анализе рынка. Более 60% игроков прибегали к загрузке взломанных версий. Однако общая стоимость всех копий сократилась на 13% – в 2023 году она составляла рекордные 324 млрд рублей.

Наибольшим спросом у игроков пользовались S.T.A.L.K.E.R. 2: Heart of Chornobyl, Warhammer 40,000: Space Marine 2, Black Myth: Wukong, Path of Exile 2 и Elden Ring: Shadow of the Erdtree. При этом часть геймеров приобретала лицензионную копию проекта после скачивания пиратской версии.

По словам заместителя генерального директора по управлению креативным кластером Ultimate Education Владимира Синицына, 57% игроков поддерживают разработчиков проектов деньгами после прохождения взломанной копии. Сооснователь Watt Studio Егор Томской, напротив, считает, что игру в итоге приобретают не более 7% «пиратов».

Стоит отметить, что часть продуктов, которые пиратят наши граждане, официально в Россию не продаются. Что естественным образом повышает совокупный уровень пиратства в России. В принципе, с учетом того, что сейчас большинство продуктов на релизе выходят недоделанными, в схеме "скачаю-посмотрю и если понравится, куплю", есть более чем серьезный резон.

PS: Все пиратские продукты (игры, фильмы, музыка, электронные книги и т.д.) западных компаний давно пора по-умолчанию считать трофейными.

В России впервые продемонстрировали эффективную работу канала 6G по международным стандартам со скоростью 12 гигабит в секунду

Исследователи МИЭМ НИУ ВШЭ впервые в России показали эффективную работу беспроводного канала связи 6G на частотах субтерагерцового диапазона. Устройство передает данные со скоростью 12 гигабит в секунду и сохраняет стабильность сигнала, автоматически переключаясь при блокировке. Показатели соответствуют международным стандартам 6G.

Главной особенностью системы стало управление распределением сигнала в реальном времени. Если сигнал блокируется, система автоматически переключается на другую антенну. Это делает связь устойчивой даже в сложных условиях.

Часть компонентов системы разработана в МИЭМ НИУ ВШЭ и МПГУ. Это, например, панель RIS (соответствующая ITU-R M.2541-0, май 2024 года), или частотно-селективная поверхность, которая управляет направлением передачи сигнала, а также диодные детекторы, позволяющие системе работать на субтерагерцовых частотах.