🧒 OpenAI запускає прогнозування віку в ChatGPT ↗
OpenAI почав впроваджувати шар «прогнозування віку» в ChatGPT — тиху систему, яка намагається визначити, чи обліковий запис ймовірно належить неповнолітній особі, а потім вмикає додаткові запобіжні елементи. Якщо система вважає, що вам менше 18 років, вона автоматично звужує доступ до більш конфіденційного контенту.
Коли він помиляється (що… іноді трапляється), вирішальним фактором є перевірка особи через Persona з використанням селфі. Це також пов’язано з ширшими змінами платформи, такими як експерименти з «дорослим режимом» та монетизацією, які, чесно кажучи, відчуваються як кілька тарілок, що обертаються одночасно.
🏦 Британії потрібні «стрес-тести штучного інтелекту» для фінансових послуг, кажуть законодавці ↗
Британські законодавці по суті кажуть: перестаньте бути спокійними щодо ШІ у фінансах. Їхній аргумент полягає в тому, що регулятори та уряд повинні проводити стрес-тестування систем ШІ, подібно до того, як банки проходять стрес-тестування, бо «ой» у фінансовому світі має тенденцію швидко поширюватися.
Проблема полягає в тому, що вона проявляється лише у великих масштабах: упередженість, каскади помилок, моделі шахрайства, петлі зворотного зв'язку. Це як дозволити малюкові керувати автобусом, бо дорога пряма… поки раптом вона нею не перестає бути.
🏛️ Призначено чемпіонів ШІ, щоб допомогти місту безпечно використовувати можливості ШІ ↗
Уряд Великої Британії призначив двох «чемпіонів зі штучного інтелекту», щоб допомогти пришвидшити впровадження штучного інтелекту у фінансових послугах – зі звичайними обіцянками зростання, продуктивності, інвестицій та всієї цієї привабливої механізації.
Примітним є балансування: енергія «рухайся швидко» з написом «безпечно» зверху. Заспокійливо… або дещо комічно, залежно від вашого настрою цього дня.
💰 Humans&, «людиноорієнтований» стартап у сфері штучного інтелекту, заснований випускниками Anthropic, xAI та Google, залучив початкове фінансування у розмірі 480 мільйонів доларів ↗
Humans& прибули з величезним стартовим раундом та командою, яка читається як «стартовий пакет лабораторії штучного інтелекту» – люди з великих модельних майстерень та технологічних гігантів. Заявлена мета – менше чат-ботів і більше «допомогти людям координувати та співпрацювати» за допомогою систем, які можуть працювати як з людьми, так і з агентами штучного інтелекту.
Це багато грошей за щось, що ще на ранній стадії, що або свідчить про впевненість ринку… або про те, що ми всі колективно купуємо феєрверки, бо нам подобається звук. Чесно кажучи, може бути і те, і інше.
⚖️ Юридичний стартап зі штучним інтелектом Ivo залучає 55 мільйонів доларів у рамках останнього раунду фінансування ↗
Юридичний стартап Ivo, що спеціалізується на штучному інтелекті, залучив нове фінансування для розвитку своєї платформи та збільшення продажів, скориставшись підтримкою юридичних фірм та власних юридичних команд, які автоматизують робочі процеси з високим обсягом паперової роботи.
Ця категорія постійно перемагає, бо її цінність є очевидною та простою: менше годин, витрачених на повторювану роботу з документами, менше речей, що вислизають з поля зору. Не гламурно, але дуже й дуже оплачувано.
🧠 Тайванська компанія Inventec заявляє, що рішення щодо чіпа Nvidia H200 «застрягло» на боці Китаю ↗
Тайванський виробник серверів заявив, що питання продажу Nvidia свого чіпа штучного інтелекту H200 Китаю, здається, «застрягло», маючи на увазі, що вузьким місцем є не лише зовнішні правила, а й схвалення з боку Китаю або внутрішня динаміка.
Це неприваблива реальність апаратного забезпечення штучного інтелекту: усі говорять про моделі та агентів, але все майбутнє може залежати від кількох вузьких місць, дозволів та політики ланцюга поставок. Це як планувати запуск ракети… а потім усвідомлювати, що забули ключ від паливного клапана.
Найчастіші запитання
Як OpenAI прогнозує вік у ChatGPT, і що зміниться, якщо вас позначать як особи, якій менше 18 років?
OpenAI запровадив малопрофільний шар «прогнозування віку», який намагається визначити, чи ймовірно, обліковий запис належить неповнолітній особі. Якщо система визначає, що вам менше 18 років, ChatGPT автоматично застосовує додаткові запобіжні заходи. На практиці це зазвичай означає жорсткіші обмеження на контент, який вважається більш конфіденційним. Мета полягає в тому, щоб зменшити ризик, не змушуючи кожного користувача декларувати свій вік заздалегідь.
Що станеться, якщо прогноз віку ChatGPT буде помилковим?
Якщо прогнозування віку в ChatGPT дає збій і дорослу людину позначають як таку, що не досягла 18 років, зазначеним рішенням є перевірка особи. У цьому розгортанні така перевірка здійснюється через Persona за допомогою процесу на основі селфі. Після перевірки обліковий запис може повернутися до звичайного доступу, а не залишатися заблокованим за суворішими обмеженнями. Це компроміс: менше ризикованих крайніх випадків із додатковими труднощами, коли система вгадує неправильно.
Як перевірка селфі Persona вписується в підхід OpenAI до безпеки?
Персона слугує механізмом вирішення невизначеності, пов’язаної з віком, коли системний висновок вважається ненадійним. Процес перевірки особи на основі селфі позиціонується як коригувальний крок після неправильного прогнозування віку. На багатьох платформах такий крок використовується для балансування безпеки та доступу без постійного блокування законних користувачів. Це також вказує на посилення контролю на рівні облікового запису, а не лише на рівні запитів.
Чому OpenAI додає вікові обмеження саме зараз, і яке це має відношення до «режиму для дорослих»?
Це оновлення з'являється одночасно з ширшими змінами платформи, включаючи експерименти з «режимом для дорослих» та кроки щодо монетизації, згадані в тому ж обговоренні. Прогнозування віку в ChatGPT фактично стає перемикачем, який визначає, хто отримає суворіші налаштування за замовчуванням, а хто — ширший доступ. Це корисно для платформи, яка тестує різні можливості для різних аудиторій. Це також може обмежити вплив більш ризикованого контенту, водночас дозволяючи розширення в інших місцях.
Що таке «стрес-тести штучного інтелекту» для фінансових послуг Великої Британії та чому вони потрібні законодавцям?
Британські законодавці закликають до проведення «стрес-тестів штучного інтелекту», які б ставилися до систем штучного інтелекту більше як до банків: перевіряли їх на міцність до того, як проблеми поширяться. Занепокоєння полягає в тому, що упередженість, каскади помилок, моделі шахрайства та цикли зворотного зв'язку можуть стати помітними лише у великих масштабах. У фінансах невеликі збої можуть швидко поширюватися через тісно взаємопов'язані системи. Стрес-тестування покликане виявити слабкі місця раніше, до того, як це вплине на реальні гроші та реальних клієнтів.
Хто такі «чемпіони штучного інтелекту» у Великій Британії для міста, і що вони мають робити?
Уряд Великої Британії призначив двох «Чемпіонів ШІ» для пришвидшення впровадження ШІ у фінансових послугах. Їхня роль полягає в тому, щоб допомогти місту скористатися можливостями ШІ, роблячи це «безпечно». На практиці це означає координацію та адвокацію: заохочення впровадження, підтримка передового досвіду та узгодження зацікавлених сторін. Це сигналізує про те, що уряд хоче швидшого впровадження з видимою оболонкою безпеки навколо нього.