🏛️ Як великі технологічні компанії досягли успіху в розпорядженні Трампа про штучний інтелект ↗
Трамп відмовився від запланованого розпорядження про штучний інтелект, яке мало б призвести до проведення перевірок безпеки для нових моделей. Причина, по суті: не уповільнювати Америку в перегонах з Китаєм.
Примітно те, що, як повідомляється, розпорядження вже було досить м’яким – добровільним, а не якимось масштабним регуляторним ударом. Тим не менш, лідери технологічних компаній наполегливо протистояли йому і отримали те, чого хотіли. (The Guardian)
🛡️ Штучний інтелект Клода Мітоса знайшов 10 000 вразливостей високого рівня серйозності в широко використовуваному програмному забезпеченні ↗
Anthropic заявила, що в рамках проекту Glasswing було виявлено понад 10 000 вразливостей високого або критичного рівня за допомогою попереднього перегляду Claude Mythos. Це вражає, але водночас схоже на пожежну сигналізацію в плащі.
Компанія повідомляє, що 1726 результатів було підтверджено як справді позитивні, 97 з них виправлено та 88 видано попереджень. Найскладніше зараз не знаходити помилки, а виправляти їх, перш ніж зловмисники отримають такі ж самі «іграшки». (The Hacker News)
🛰️ Білий дім схвалив виділення 9 мільярдів доларів розвідувальним службам, щоб наздогнати штучний інтелект ↗
Білий дім схвалив секретний запит на закупівлю 9 мільярдів доларів для розвідувальних служб США, спрямованих на використання передових моделей штучного інтелекту для секретної роботи.
Конгресу ще потрібно схвалити збільшення фінансування, але 800 мільйонів доларів перепрограмовуються для швидшого доступу до обчислень. Підтекст важко не помітити: навіть розвідувальні служби тепер застрягли в черзі на чипи штучного інтелекту, що є водночас абсурдним і передбачуваним. (Inquirer.com)
🪞 «Ви не можете контролювати все»: зростання кількості пластичних хірургів, яких просять створити «обличчя зі штучним інтелектом» ↗
Пластичні хірурги кажуть, що все більше пацієнтів вибирають селфі, відредаговані за допомогою штучного інтелекту, як цілі операцій – чіткіші вилиці, ідеальна симетрія, шкіра без пор, весь цей дивовижний список покупок.
Хірурги попереджають, що штучний інтелект може перебудовувати пікселі, а не анатомію. В одному з досліджень розглядалися рекомендовані штучним інтелектом процедури, які можуть коштувати понад 100 000 фунтів стерлінгів і все одно не дати вигаданого обличчя. Похмурий маленький дзеркальний лабіринт. (The Guardian)
💰 Anthropic планує закрити раунд інвестицій на понад 30 мільярдів доларів вже наступного тижня ↗
Повідомляється, що Anthropic близька до раунду фінансування, який перевищує 30 мільярдів доларів, при оцінці понад 900 мільярдів доларів. Так, ця цифра просто шалена.
Цей раунд зумовлений величезним попитом на Клода в галузі кодування, бізнес-процесів та кібербезпеки. Компанія також поспішає заблокувати більше обчислювальних ресурсів, оскільки в ШІ зараз гроші – це здебільшого паливо для носіння костюма. (Business Standard)
🖼️ Зображення ChatGPT містять невидимі маркери штучного інтелекту, які може виявити будь-хто: що потрібно знати користувачам, які не можуть розкрити інформацію про штучний інтелект покоління ↗
Вихідні зображення OpenAI тепер містять два сигнали походження: метадані C2PA та водяний знак SynthID від Google DeepMind. Один надає багатший контекст файлу, а інший призначений для збереження скріншотів та стиснення.
Також у попередній версії є публічний інструмент перевірки. Не зовсім надійний, ні — дослідники продемонстрували атаки з водяними знаками — але це робить фразу «я зовсім не використовував штучний інтелект» набагато ризикованішою маленькою брехнею. (Tech Times)
Найчастіші запитання
Чому Трамп відмовився від запланованого указу про штучний інтелект?
У статті йдеться, що запланований указ про штучний інтелект, як повідомляється, був пом'якшений під тиском з боку лідерів великих технологічних компаній. Указ вже описувався як відносно м'який та добровільний, з акцентом на перевірках безпеки нових моделей штучного інтелекту. Головним аргументом проти нього було те, що додаткові процеси перевірки можуть уповільнити гонку США з Китаєм у сфері штучного інтелекту.
Що знайшов Клод Мітос з Anthropic у програмному забезпеченні?
Компанія Anthropic заявила, що в рамках проекту Glasswing було використано програмне забезпечення Claude Mythos Preview для виявлення понад 10 000 вразливостей високого або критичного рівня серйозності в широко використовуваному програмному забезпеченні. У статті зазначається, що 1726 результатів було підтверджено як справді позитивні, а деякі виправлення та рекомендації вже були випущені. Ширше занепокоєння полягає в тому, чи зможуть захисники виправити ці вразливості, перш ніж зловмисники скористаються аналогічними інструментами штучного інтелекту.
Чому американські розвідувальні служби вимагають більше чипів штучного інтелекту?
У статті йдеться, що Білий дім схвалив секретний запит на 9 мільярдів доларів, щоб допомогти розвідувальним службам США придбати передові чіпи для передових моделей штучного інтелекту. Мета полягає в підтримці секретної роботи зі штучним інтелектом, яка вимагає великих обсягів обчислень. Також зазначається, що Конгресу все ще потрібно схвалити ширше фінансування, тоді як деякі кошти перепрограмовуються для швидшого доступу.
Що означає «штучне обличчя» в косметичній хірургії?
«Обличчя зі штучним інтелектом» стосується пацієнтів, які приносять пластичним хірургам селфі, відредаговані за допомогою штучного інтелекту, як приклад того, як вони хочуть виглядати. Ці зображення можуть демонструвати чіткіші риси обличчя, ідеальну симетрію або нереалістичну шкіру. Хірурги, згадані у статті, попереджають, що штучний інтелект може легко змінювати пікселі, але реальна анатомія має обмеження, які хірургія не завжди може подолати.
Як невидимі маркери на зображеннях ChatGPT впливають на користувачів?
У статті йдеться, що вивід зображень ChatGPT тепер містить сигнали походження, такі як метадані C2PA та водяні знаки SynthID. Ці маркери можуть допомогти ідентифікувати зображення, створені штучним інтелектом, зокрема у випадках, коли хтось може не бажати розкривати використання ШІ. У статті також зазначається, що водяні знаки не є безвідмовними, але вони полегшують виявлення нерозкритого використання зображень ШІ.