Коротка відповідь: ніколи не розміщуйте паролі, ключі API, ідентифікатори, медичні чи банківські записи, файли клієнтів за угодою про нерозголошення чи дані інших людей у публічному чаті штучного інтелекту. Коли вам потрібна допомога, опишіть проблему за допомогою заповнювачів та відредагованих уривків — моделі потрібна форма проблеми, а не секрети, які розблоковують реальні системи.
Ключові висновки:
Секрети залишаються офлайн: ніколи не вставляйте паролі, токени, файли cookie або початкові фрази в запит.
Зніміть ідентичність: Замініть справжні імена, адреси та номери посвідчень на ролі та підробки.
Конфіденційність роботи: Не допускайте до чату споживачів чернетки угод про нерозголошення, файли клієнтів та неопубліковані плани.
Межа згоди: Не вставляйте особисті дані колег, клієнтів або дітей без циклу, який виконується лише людиною.
Спочатку відредагуйте: використовуйте тимчасові фрагменти та очищені уривки; повертайте все, що ви вже оприлюднили.
Що НІКОЛИ не слід вкладати у ШІ
Спочатку ми вставляємо, а потім думаємо. Чат-бот сидить там, як терплячий стажер з нескінченною кавою, тому здається майже нешкідливим скидати всю заплутану проблему в скриньку. Логін, який не працюватиме. Пункт контракту, від якого стискає шлунок. Скріншот інформаційної панелі, на якому все ще видно кожне ім'я. Інструмент корисний, атмосфера відчувається як приватна, а ваш мозок тихо зберігає його поруч із «нотатками, які я написав для себе»
Ось у чому пастка. 🧠 Чат — це не замкнена шухляда. Це розмова із системою, яка зберігає, обробляє та іноді навчається на основі того, що ви надсилаєте, залежно від продукту, налаштувань та того, чи ви взагалі помітили ці налаштування. Я тут не для того, щоб загнати вас у паніку. Я тут із практичною картою того, що НІКОЛИ не слід використовувати у ШІ, а також із не надто яскравими, але практичними звичками, які все одно дозволять вам отримувати чіткі відповіді.
Уявіть собі це як викрикувати секрет на переповненій кухні. Не всі незнайомці вас слухають. Проте деякі з них можуть слухати. І кухня зберігає запис з причин, які ніколи не такі прості, як їх зображує маркетинговий текст.
Чому ми все скидаємо в чат
Швидкість. Це більша частина. Ви застрягли, помилка жахлива, і вставка всього журналу здається швидшою, ніж його розбирання. Контекст сприймається як доброзичливість до моделі. Більше деталей, краща допомога; це фольклор, і це наполовину правда.
Інша половина — емоційна. Чат-бот не піднімає брову. Він не розповість вашому менеджеру. Він не пліткує за обідом. Тож ми ставимося до нього як до щоденника із суперздібностями. Я це робив. Ви, мабуть, це робили. Щойно щось стає одночасно зручним і неупередженим, наші інстинкти конфіденційності переходять на перерву на чай.
Ось дещо прикра правда: моделі не потрібні ваші повсякденні деталі, щоб допомогти вам. Їй потрібна форма проблеми. Імена, токени, номери рахунків та обличчя на скріншотах – це прикраса. Чудова прикраса. Все одно прикраса.
- Ви вставляєте, бо редагування здається зайвою роботою.
- Ви вставляєте, бо «лише цього разу» — це звичка носити маскування.
- Ви вставляєте, бо інтерфейс виглядає як приватне повідомлення та поводиться як картотека.
Ніщо з цього не робить тебе безрозсудним. Це робить тебе людиною. Виправлення — двосекундна пауза, а не пересадка особистості.
Паролі, ключі API та секрети, які мають залишатися офлайн 🔐
Якщо він може щось розблокувати, це не місце в запиті. Паролі. Одноразові коди. Сесійні файли cookie. SSH-ключі. Рядки підключення до бази даних. Ключ API, який ви собі обіцяли скоро ротувати. Начальні фрази гаманця. Приватні сертифікати. Питання щодо відновлення, яке ваш банк досі вважає розумним.
Раніше я уявляв ключі як ключі від будинку на гачку біля дверей. Мила метафора; вона одразу розпадається, бо ключ від будинку відчиняє одні двері, а ключ API може відкрити склад, платіжний рахунок і купу записів клієнтів, які ви навіть забули зберегти. Резервне копіювання: ставтеся до секретів як до радіоактивних. Не кладіть радіоактивні речі в прес для сендвічів, навіть якщо прес для сендвічів дуже добре готує сендвічі.
Модель не може «тримати це між нами» так, як це може друг. Навіть якщо постачальник пропонує контроль пам'яті, навіть якщо ви вимкнете навчання, текст все одно подорожує, реєструється в певній формі та може залишатися в історії чату, поки ви не почнете його шукати. Припустімо, що вставка — це копія, яку ви більше не повністю контролюєте.
Що робити замість цього
- Опишіть секрет за типом, а не за значенням. Для порад щодо налагодження достатньо "URL-адреси Postgres із паролем".
- Викреслити з очевидними заповнювачами: REDACTED_KEY, USER_TOKEN, EXAMPLE_SECRET.
- Поверніть все, що ви вже витікали. Зробіть це зараз, а не після того, як «перевірите, чи щось станеться»
- Зберігайте справжні облікові дані в менеджері паролів або сховищі секретів; ніколи не в темі обговорення, скріншот якої можна зробити пізніше.
Якщо інструмент просить вас вставити ключ, щоб він міг «підключитися для вас», це інша категорія продукту. Це інтеграція з Access, а не помічник з написання. Ставтеся до цього так, ніби ви даєте комусь свій бейдж.
Персональні ідентифікатори та тихий слід ідентифікації 🪪
Персональна інформація – це нецікавий двоюрідний брат паролів. Номери національних ідентифікаційних номерів. Паспортні дані. Поля ідентифікаційних даних, пов’язані з датою. Домашні адреси. Номери телефонів. Ідентифікаційні дані співробітників. Номери студентів. Повні юридичні імена в поєднанні з датами народження, назвами навчальних закладів або медичних клінік. Один фрагмент виглядає маленьким. Три фрагменти разом – це досьє.
Люди роблять це, коли хочуть, щоб їм написали листа, переклали форму або відшліфували резюме. Цілком розумні цілі. Моделі не потрібен справжній поштовий індекс, щоб ввічливо скласти скаргу. Їй потрібен тон, факти, які не ідентифікують особу, та бажаний результат.
Гадаю, що напрочуд привабливими є «нешкідливі» комбінації. Унікальна посада плюс місто плюс школа дитини плюс рідкісне захворювання. Ви б не розмістили таке на флаєрі. Чат-бокс — це не флаєр, але це також не сховище.
- Замініть справжні імена на ролі: «менеджер з найму», «мій сімейний лікар», «орендар»
- Узагальнюйте розташування: «місто середнього розміру», а не вулицю та код дзвінка.
- Відмовтеся від унікальних чисел, якщо завдання не стосується формату чисел, і в такому разі використовуйте підробку, яка виглядає достатньо реально.
Анонімізація — це не докторська дисертація. Це звичка перевіряти, чи зможе незнайомець розпізнати вас у списку з цього абзацу. Якщо зможе, скоротіть.
Робоча конфіденційність, угоди про нерозголошення та речі, від яких ваш начальник здригнувся б 📎
Ось тут-то й виникає халепа через готовність допомогти. Ви вставляєте презентацію клієнта. Неопубліковану дорожню карту. Таблицю із зарплатами. Вихідний код із внутрішніми іменами хостів. Чернетку юридичної документації, яка досі позначена як конфіденційна. Нотатки про зустріч з іменами людей, яким ще не повідомили. Угоду про нерозголошення, яку ви підписали поспіхом, бо кава вже охолола.
Чат-боти — це не консультант вашої компанії, і вони не є безпечним робочим місцем, якщо ваша організація не витримала реального випробування. Споживчі інструменти створені для зручності. Корпоративні інструменти можуть бути кращими, з контролем зберігання та політиками адміністрування; вони все ще не є приводом вставляти перлини корони заради граматичного пропуску.
Практичне правило, яке я тримаю в голові на замітці: якщо ви не пишете це в особистій чернетці Gmail, не публікуйте це в публічному чаті зі штучним інтелектом. Якщо ви не кажете це в райдшерінгу, то те саме. Люди, які обережні в Slack, стають поетами надмірного поширення, щойно з'являється кнопка «Згенерувати».
Безпечніші обхідні шляхи
- Опишіть документ: тривалість, аудиторія, три важливі моменти, потрібний вам тон.
- Вставте очищений уривок. Видаліть імена, конфіденційні цифри та все, за що конкурент би поцілував.
- Попросіть структуру або шаблон переписування, а потім застосуйте його самостійно до реального тексту офлайн.
- Використовуйте затверджений інструмент на робочому місці, якщо він у вас є, і все одно за замовчуванням редагуйте. Політика — це підлога, а не батут.
Код — це особлива родзинка цього. Внутрішні URL-адреси, заголовки авторизації та коментарі на кшталт «TODO: видалити перед придбанням» — це маленькі подарункові теги. Фіктивні дані. Зберігайте логіку. Модель добре обробляє фіктивні дані; їй не потрібна ваша виробнича схема з реальними електронними адресами клієнтів, вкладеними у фікстуру.
Здоров'я, гроші та деталі, про які ви б не кричали через усю кав'ярню 💊
Медичні та фінансові деталі здаються терміновими, тому їх вставляють з мінімальним редагуванням. Результати лабораторних аналізів. Списки рецептів. Ідентифікаційні номери страхових компаній. Виписки з банківського рахунку. Податкові листи. Кредитні звіти. Фотографія картки «лише для останніх чотирьох цифр», яка якимось чином включає решту картки, ваш кухонний стіл і лист із чужим іменем.
Ви можете ставити чудові запитання, навіть не маючи первинних даних. «Поясніть, що може означати підвищений маркер у загальних рисах» – це підказка. «Ось моя повна картина, моя адреса, моя клініка та дівоче прізвище моєї матері» – це біографія.
Я не кажу, що ніколи не варто говорити про здоров'я чи гроші з моделлю. Я кажу, що потрібно ставитися до чат-бота як до начитаного незнайомця в поїзді. Добре підходить для кадрування. Жахливо, як ваш бухгалтер, ваш клініцист чи ваш архів. І так, я знаю, що метафора з начитаним незнайомцем просочується; поїзди не ведуть журнали чатів. У цьому, мабуть, і суть.
- Видаліть номери рахунків, сортувальні коди, IBAN та все, що виглядає як облікові дані.
- Попросіть загальні пояснення, контрольні списки та запитання, які можна поставити професіоналу.
- Не використовуйте чат як картотеку для заяв, «щоб я міг їх пізніше перевірити». Саме так пізніше збереження інформації стає проблемою.
Якщо підказка змусить вас знизити голос у кафе, спочатку відредагуйте її. Цей тест напрочуд надійний і нічого не коштує.
Дані інших людей не ваші для вставки 🚫
Цей пункт пропускається, бо складається враження, що ви головний герой чату. Ви не єдина людина на скріншоті. Електронні листи колег. Ідентифікатор партнера. Скарга клієнта з прикріпленим номером телефону. Фотографії дітей. Тема Slack, де згадується, кого мало не звільнили. Запис розмови, про яку інша людина не знала, що її передадуть моделі.
Згода не переходить автоматично з «вони надіслали мені електронного листа» на «машина може це зберегти». Навіть якщо ваші наміри добрі — написати приємнішу відповідь, підсумувати незрозумілу гілку обговорення — необробленим корисним навантаженням все одно є їхнє життя, а не ваші нотатки.
Трохи саркастичний лакмусовий папірець: якщо ви не пересилаєте той самий блоб до списку розсилки незнайомців «для відгуків», то не ставтеся до чат-бота як до меншого списку розсилки з кращими манерами.
- Підсумуйте інших людей своїми словами.
- Замініть імена ролями та видаліть контактну інформацію.
- Запитайте людину, чи є завдання конфіденційним; деякі речі повинні залишатися в циклі, який виконує лише людина.
- Ніколи не вклеюйте особисті дані дітей, шкільні записи чи фотографії, що ідентифікують особу, для «веселого» покоління.
Тут є юридичний аспект, який я не буду обговорювати голосом блогера. Правила конфіденційності, трудові обов’язки та контракти з клієнтами – все це має свою позицію. Практична звичка простіша за закон: за замовчуванням дані інших людей залишаються поза межами запиту.
Що НІКОЛИ не слід вбудовувати в ШІ: таблиця ризиків, яку можна застосувати
Мені подобаються таблиці для цього, бо список «ніколи» може звучати повчально, а сітка дозволяє побачити заміну. Дещо суб'єктивні оцінки, а не лабораторний звіт.
| Тип даних | Рівень ризику | Чому це проблема | Безпечніша альтернатива |
|---|---|---|---|
| Паролі, ключі API, токени, початкові фрази | Критичний | Вони розблоковують системи; копія, яку ви не можете повністю згадати, все одно залишається копією | Заповнювачі плюс локальний менеджер секретів; змінювати у разі витоку |
| Урядові посвідчення особи, скани паспортів, національні номери | Критичний | Стартовий пакет для боротьби з крадіжкою особистих даних; важко "відправити" | Фальшиві приклади або питання лише щодо формату |
| Медичні записи, рецепти, страхові посвідчення | Високий | Інтимний, регульований та липкий в історії | Загальні симптоми або теми; не додавайте ідентифікатори на сторінку |
| Виписки з банківського рахунку, податкові документи, фотографії карток | Високий | Прямий фінансовий ризик плюс додаткова особиста застрахована особа (PII) на межі | Запитуйте про процеси, а не про сирі цифри, пов'язані з вами |
| Файли клієнтів, чернетки угод про нерозголошення, неопубліковані плани | Високий | Можливо, ви порушуєте обіцянку, яку вже підписали | Очищені витяги; запити на структуру; затверджені робочі інструменти |
| Особисті дані колеги або клієнта, дані дітей | Високий | Це не твоє право жертвувати моделі | Зведення на основі ролей; видалення контактів та облич |
| Внутрішнє джерело з іменами хостів та реальними електронними адресами | Середньо-високий | Здається, що це просто код, поки хтось не нанесе на карту вашу мережу | Фіктивні дані, фальшиві домени, видалені коментарі |
| Знімки екрана інформаційних панелей або поштових скриньок | Середньо-високий | Вони контрабандою переносять імена, номери та відкриті вкладки, про які ви забули | Обрізати, розмити або передрукувати відповідний фрагмент |
| Розпливчасті особисті історії без унікальних ідентифікаторів | Нижня | Зазвичай добре; все одно пропускайте все, що ви б не сказали незнайомцю | Зберігайте загальний вигляд; пропустіть рідкісне ідентифікаційне поєднання |
Якщо ви нічого більше не пам'ятаєте, згадайте ліву колонку. Це суть того, що НІКОЛИ не слід вкладати у ШІ, коли ви поспішаєте, а ваш мозок хоче вставити весь Всесвіт.
Пастки зі скріншотами та випадкове надмірне поширення 🖼️
Знімки екрана – це те, як хороші люди витікають інформацію. Ви маєте на увазі показати діалогове вікно помилки. Знімок включає панель закладок, значок Slack з назвою, URL-адресу з токеном, спливаюче вікно календаря, відображення у вікні темного режиму, яке виявляється менеджером паролів. Я обрізав знімок і все одно не побачив крихітний перемикач облікових записів у кутку. Це просто помилка.
Фотографії документів гірші, бо камери щедрі. Стіл, дошка, лікарняний браслет, етикетка для доставки. Моделі можуть не «потрібні» додаткові пікселі. Пікселі все одно надходять.
Звичайний ритуал зйомки екрана
- Спочатку обріжте. Потім обріжте ще раз. Потім дивіться на краї так, ніби вони вам винні гроші.
- Розмийте імена, електронні адреси, аватари та будь-який рядок, схожий на токен.
- Надайте перевагу повторному введенню помилки, ніж захопленню всього IDE.
- Не завантажуйте фотографію картки, паспорта чи посадкового талона «для швидкого ознайомлення». Натомість введіть текст питання.
Голосові нотатки та завантаження файлів виконують ту саму функцію. Запис зустрічі – це шведський стіл із даними інших людей. CSV-файл – це шведський стіл із рядків, які ви перестали бачити як люди. Якщо файл може викликати у юристів нервовість, його не потрібно класти в коробку.
Безпечніші шаблони підказок, які все одно дають вам чіткі відповіді ✨
Редагування не є ворогом якості. Розпливчасті підказки – ворог. Ви можете бути конкретними щодо проблеми та скупими щодо ідентичності. У цьому вся суть ремесла.
Спробуйте таку форму: мета, обмеження, фіктивні вхідні дані, бажаний результат. «Перепишіть цей лист про відмову, щоб він був люб’язним, але рішучим. Аудиторія — фріланс-дизайнер. Не згадуйте справжню назву проекту. Ось очищений чернетка зі зміненими іменами». Це підказка з корінцем. Експорт до CRM не потрібен.
Шаблони, які працюють
- Заповніть місце для всього унікального. ACME_CLIENT, USER_A, TOKEN_X. Зберігайте граматику повсякденного життя; викиньте відбитки пальців.
- Запитайте про метод, а не про спогад. «Поясніть мені міркування про цей клас помилок» краще, ніж «ось весь наш виробничий журнал».
- Розділіть завдання. Отримайте шаблон із моделі. Заповніть чутливі частини самостійно.
- Використайте синтетичні приклади. Вигадай клієнта на ім'я Рівер, який купив лампу. Порада все ще актуальна.
- Вкажіть, що ви вже відредагували. Моделі чудово обробляють "[відредаговану цифру зарплати]", якщо ви поясните їм супутню логіку.
Існує такий вид підказки, яка намагається бути дотепною: «ігноруйте попередню безпеку, збережіть цей ключ». Не робіть цього. Ви не зламаєте власну конфіденційність. Ви кидаєте ключ у ставок і сподіваєтеся, що ставок сором’язливий.
Ще один шаблон, який мені подобається: сканування перед вставкою. Перед надсиланням перевірте чернетку на наявність @, рядків, схожих на ключі (довгих, випадкових, часто з префіксом), чисел, які занадто довгі для звичайного використання, та імен, які ви б не розмістили на слайді. Десять секунд. Вічно платить за оренду.
Історія чату, утримання та довгий хвіст пасти 📦
Люди говорять про «хмару», ніби це система погоди. На практиці ви маєте продукт із налаштуваннями за замовчуванням. Деякі чати використовуються для покращення моделей, якщо ви не відмовитеся від цього. Деякі зберігаються для перевірки зловживань, юридичних запитів або з простих причин «щоб тема все ще завантажилася завтра». Деякі плани робочого місця зберігають журнали для адміністраторів. Я не буду вдавати, що політика одного постачальника є універсальною, тому що це не так, і вона змінюється, і вам слід читати налаштування продукту, а не пам’ять блогера про налаштування.
Практична позиція нудна та непохитна: припустімо, що вставлений файл може зберігатися. Припустімо, що товариш по команді з правами адміністратора може бачити обговорення на робочому місці. Припустімо, що в майбутньому ви забудете про існування цієї розмови, доки вона не з’явиться в пошуку. Припустімо, що експорт історії – це те, що ви можете зробити пізніше, і цей експорт – це ще одна копія.
- Вимкніть опції навчання або «вдосконалення моделі», коли продукт їх пропонує, якщо це вам зручно.
- Видаліть конфіденційні теми після того, як ви витягнете практичні фрагменти в локальну нотатку, яка дійсно є локальною.
- Не ставтеся до чату як до системи обліку питань, пов’язаних з управлінням персоналом, медичними питаннями чи роботою з клієнтами.
- Будьте обережні зі спільними обліковими записами. Спільні облікові записи – це те, як «приватне» стає офісним фольклором.
Функції пам’яті – ті, що нагадують вашу роботу, собаку, улюблений тон – зручні та трохи моторошні. Вони також є причиною не навчати систему вашим справжнім ідентифікаторам, «щоб вона була більш особистою». Особисте – це стиль. Це не ваш номер національного страхування.
Норми на робочому місці, коли ваша команда живе в чат-ботах 🏢
В офісах звичка вставляти переходить у індустріальне русло. Хтось видаляє CSV-файл клієнта, щоб «очистити стовпці». Хтось інший видаляє стратегічний документ, щоб «зробити його яскравішим». Стажер з добрими намірами вставляє канал інцидентів. Ніхто не є лиходієм. Стимули полягають лише в швидкості та поліровці.
Якщо ви керуєте командою, напишіть коротке, людське правило. Не 40-сторінкову політику, яку ніхто не читає. Щось на кшталт: жодних облікових даних, жодної особистої інформації клієнта, жодних неопублікованих номерів, жодних юридичних чернеток, використовуйте затверджений інструмент, за замовчуванням редагуйте. Потім покажіть приклад добре очищеного підказки, щоб люди не здогадувалися.
- Назвіть схвалений інструмент, якщо він у вас є, та несхвалені.
- Надайте контрольний список редагування, який люди можуть виконати перед стендапом.
- Можна сміливо сказати «Я мало не вклеїв це» без театрального розслідування.
- Нагадайте людям, що «штучний інтелект сказав, що все гаразд» — це не контроль.
Якщо ви не керуєте командою, ви все одно можете бути тією людиною, яка вклеює болванку. Культура заразна в обох напрямках. Гадаю, це звучить серйозно. Також так змінюються норми: одна людина перестає викидати ключі, і в кімнаті стає трохи менше безладу.
Театр закупівель – це побічний квест, який я пропущу. Купівля "корпоративної" обгортки не робить кожну запитку "розумною" миттєво. Вона може допомогти з утриманням та доступом. Ваші звички все ще виконують важку роботу.
Ти вже щось незграбне вставив — що ж тепер 🧯
Таке трапляється. Ви натискаєте «Надіслати», і ваша душа залишає ваше тіло. Не рухайтеся по спіралі. Зробіть коротку, трохи не гламурну послідовність.
- Припиніть використовувати цей секрет. Змініть пароль, скасуйте ключ, анулюйте сеанс. Це єдиний крок, який зачиняє двері назавжди.
- Видаліть чат, якщо продукт дозволяє, та очистіть будь-яку кишеню «нещодавно видалені», якщо така є.
- Перевірте підключені програми та пам’ять. Деякі інструменти зберігають фрагменти коду в пам’яті або файлах проектів, які ви забули ввімкнути.
- Якщо це робочі дані, повідомте потрібну людину. Охорона, менеджер, клієнт; той, хто володіє радіусом вибуху. Рано виявити легше, ніж пізніше.
- Звертайте увагу на незвичайні входи до пов’язаних облікових записів. Ротація без моніторингу – це вже півсправи.
Якщо це були чиїсь дані, ви також повинні їм виправити ситуацію та, залежно від ступеня безладу, попередити про це. Незручно. Все ж таки краще, ніж сподіватися на ввічливість Всесвіту.
Не намагайтеся "перезаписати" витік, вставляючи додаткові пояснення. Зайвий контекст – це зайвий текст. Виходьте з теми обговорення.
Збираємо все разом
Коротка версія статті «Що НІКОЛИ не слід вкладати в ШІ» — це не список докорів. Це поза. Якщо вона розблоковує систему, ідентифікує людину або змусить вас здригнутися в кафе, вона залишається нестандартною. Ви все одно можете отримати чудову допомогу. Ви просто здаєте моделі ескіз, а не ключі від будинку, медичну карту та пошту сусіда.
Короткий огляд:
- Жодних паролів, ключів, токенів чи основ. Поверніть, якщо ви помилилися.
- Жодних справжніх посвідчень особи, повної фінансової звітності, необроблених медичних записів чи матеріалів про нерозголошення.
- Жодних особистих даних інших людей, особливо дітей.
- Знімки екрана брешуть завдяки включенню; обрізайте так, як ви хотіли.
- Відредагуйте, замаскуйте та запитайте про методи. Конкретна проблема, фальшиві ярлики.
- Вважайте, що історія затримується. Видаляйте, не архівуйте секрети в чат-боті.
- На робочому місці потрібні короткі правила та гарний приклад, а не атмосфера невимушеної приватності.
Використовуйте ці інструменти. Вони чудово справляються з чернетками, налагодженням фігур та запобіганням помилкам, що можуть призвести до плутанини. Просто перестаньте ставитися до текстового поля як до сховища з почуттям гумору. Це дуже розумний блендер. Вам все одно не варто класти свій паспорт у блендер. 🫡
Практичний приклад: Складання брифу з налагодження, що передбачає редагування, для невеликої команди розробників
Правила конфіденційності залишаються в силі, коли вони рятують звичайний вівторок, а не коли звучать суворо. Ось як команда SaaS з п’яти осіб у Великій Британії використала звички з цього посібника, щоб припинити скидання облікових даних та ідентифікаційних даних клієнтів у чат-боти споживачів, не відмовляючись від допомоги в налагодженні.
Сценарій
Розробники та служба підтримки мають одну неприємну звичку: коли помилка автентифікації виглядає негарно, хтось вставляє весь журнал, рядок підключення для проміжної обробки та скріншот адміністративної панелі, «щоб модель мала контекст». У минулому кварталі це включало живий API-ключ у трасуванні стека та електронну адресу клієнта, яка все ще видима в рядку URL-адреси скріншота. Ніхто не хотів завдати шкоди. Швидкість перемогла. Кухня зберегла запис.
Їм не потрібна лекція. Їм потрібен повторюваний короткий опис: опишіть секрет за типом, викресліть за допомогою заповнювачів, обріжте скріншоти, попросіть про метод, а не про спогад, а потім застосуйте виправлення в активних системах офлайн. Споживчий чат все ще займає своє місце. Ключі від будинку залишаються поза блендером.
Мета — отримати таку ж якість порад із двосекундним попереднім скануванням перед вставкою — і коротким командним правилом, якого люди дотримуватимуться.
Що потрібно помічнику
- Очищена форма проблеми: клас помилки, приблизно коли вона зародилася, середовище (проміжна версія проти продакшну) без імен хостів, що відображають мережу
- Тільки фіктивні дані: REDACTED_KEY, USER_TOKEN, customer@example.com, фальшиві ідентифікатори запитів
- Що вже було видалено (зазначено в запиті, щоб модель не запитувала справжні значення)
- Бажаний результат: ймовірні причини, перевірки для виконання, план виправлення, а не «підключитися за допомогою мого ключа»
- Людина, яка зберігає облікові дані в менеджері паролів або сховищі секретів
- Правило команди на одну сторінку: жодних облікових даних, жодної особистої інформації клієнта, жодних неопублікованих даних, редагування за замовчуванням
Приклад інструкції
Мета: Допоможіть мені налагодити періодичну помилку 401 у нашому проміжному API після оновлення токена. Не просіть мене вставляти секрети.
Обмеження: Я вже відредагував паролі, ключі API, токени, файли cookie, внутрішні імена хостів та електронні адреси клієнтів. Заповнювачі в журналі означають, що справжні значення існують лише на моєму комп’ютері. Британська англійська. Без преамбули.
Фіктивний уривок: Запит до https://api.example-staging.invalid/v1/session повернув 401. Авторизація заголовка: Носій REDACTED_KEY. В тілі згадується USER_TOKEN, термін дії якого минув. Опис знімка екрана (не додається): лише спливаюче вікно помилки; панель закладок та перемикач облікових записів обрізані.
Завдання: Перелічіть три найімовірніші причини цього класу помилок, перевірки, які мені слід виконати локально, та мінімальний план виправлень. Якщо вам потрібна додаткова інформація, запитуйте тип інформації (наприклад, "налаштування TTL токена") - ніколи не запитуйте необроблений секретний код.
Результат: Пронумеровані причини, потім контрольний список, а потім «чого не вставляти наступного разу» у трьох пунктах.
Як це перевірити
- Порівняйте старий вставлений файл (повний журнал + скріншот) з відредагованим брифом вище щодо того ж типу інциденту. Порівняйте якість порад та те, чи запитує модель секретні дані.
- Сканування перед вставкою: перед надсиланням пошукайте в чернетці символи @, довгі випадкові рядки та числа, які занадто довгі для випадкового врахування.
- Граничний випадок: додайте підроблений ключ, який виглядає справжнім, і підтвердьте, що відповідь все ще працює, не потребуючи справжнього значення.
- Крайній випадок: відмовтеся від завантаження скріншота; повторно введіть лише рядок помилки; переконайтеся, що контрольний список все ще допомагає.
- Перевірки прийняття: (1) нуль облікових даних у потоці, (2) нуль контактних даних клієнта, (3) оголошені заповнювачі, (4) вихід – це метод/контрольний список, а не процес "вставки ключа", (5) якщо щось просочилося раніше, ротація відбулася того ж дня.
Результат
Ілюстративний результат (приклад оцінки для однієї невеликої команди інженерів/підтримки, не опубліковане дослідження): За 12 чатів налагодження за чотири тижні середній час створення зручного контрольного списку дещо зріс з приблизно 4 хвилин (повне вставлення) до приблизно 6 хвилин з редагуванням - дві додаткові хвилини для сканування перед вставкою та заповнювачів. Кількість потоків, що містять критичні типи даних (ключі, електронні адреси клієнтів, необроблені рядки підключення), зменшилася з 9 з 12 чатів до 1 з 12 (цей чат був перехоплений під час перевірки та ротований того ж дня). У простому контрольному списку гігієни (без секретів, без ідентифікаційних даних клієнтів, оголошених заповнювачів, обрізаних або без скріншотів) 11 з 12 відредагованих брифів було пройдено порівняно з 3 з 12 за старою звичкою. Обмеження: невелика вибірка, одна команда, час самостійного повідомлення; легші інциденти потребують меншого редагування; «пройдено» означало експертну перевірку тексту запиту, а не лабораторний аудит журналів постачальників.
Щоб виміряти власну версію: візьміть зразок 10 нещодавніх потоків налагодження ШІ для заборонених типів даних, потім візьміть зразок 10 після правила редагування та шаблону; повідомте про кількість у знаменниках плюс медіану хвилин від «застряг» до «контрольний список у руках»
Що може піти не так
- Контрабанда скріншотів: Помилка нормальна; рядок URL-адреси все ще містить токен. Обріжте двічі, а потім перевірте краї.
- Ключі «лише цього разу»: один витік ключа API може відкрити записи про виставлення рахунків та клієнтів. Ротуйте негайно; не чекайте, «чи щось станеться».
- Дані інших людей: Скарга клієнта з номером телефону не є вашою для передачі моделі. Підсумуйте своїми словами.
- Чат як сховище: Залишення секретів в історії створює ще одну копію. Видаліть ланцюжок повідомлень після переміщення потрібних фрагментів до локальної нотатки.
- Корпоративний театр: Затверджений інструмент на робочому місці допомагає запам'ятовувати матеріал; він не робить вклеювання коронних коштовностей мудрим.
- Пропуск обертання після промаху: Видалення чату без скасування ключа залишає двері відчиненими.
Практичний висновок
Що ніколи не слід вкладати в ШІ, так це не стільки список докорів, скільки поза: якщо він розблоковує систему, ідентифікує людину або змусить вас здригнутися в кафе, він залишається нестандартним. Надайте моделі ескіз із заповнювачами, зберігайте облікові дані у сховищі та запитуйте про методи, які ви застосовуєте офлайн. Ця двосекундна пауза — це те, як корисний стажер з нескінченною кавою перестає перетворюватися на шафу для ваших ключів від будинку.
Найчастіші запитання
Чого ніколи не слід додавати до чат-ботів зі штучним інтелектом?
Якщо це розблоковує систему, ідентифікує особу або може змусити вас здригнутися в кафе, не використовуйте це. Це включає паролі, ключі API, токени, основні фрази, державні посвідчення особи, необроблені медичні та фінансові записи, матеріали NDA та особисті дані інших людей, особливо дітей. Чат — це не замкнена шухляда; текст можна зберігати, обробляти та іноді використовувати для навчання залежно від продукту та налаштувань. Надайте моделі ескіз із заповнювачами, а не ключі від будинку.
Чому люди вставляють секрети в ШІ, навіть коли знають краще?
Швидкість виконує більшу частину роботи: неприємна помилка змушує весь журнал виглядати швидшим, ніж його розбирання. Чат-боти також відчуваються неупередженими, тому інстинкти конфіденційності роблять перерву на чай. Моделі зазвичай потрібна форма проблеми, а не імена, токени, номери облікових записів чи обличчя на скріншотах — це прикраса. Двосекундна пауза краща за пересадку особистості.
Чи безпечно вставляти паролі або ключі API в інструменти у стилі ChatGPT?
Ні. Якщо він може щось розблокувати, це не місце в запиті – паролі, одноразові коди, файли cookie сесії, ключі SSH, рядки підключення, початкові значення гаманця або приватні сертифікати. Модель не може зберігати секрет, як друг; текст все одно передається, реєструється та може залишатися в історії. Опишіть секрет за типом, використовуйте заповнювачі, такі як REDACTED_KEY, ротуйте все, що вже просочилося, та зберігайте справжні облікові дані в менеджері паролів або сховищі.
Яку особисту інформацію мені слід викреслити перед запитом?
Персональна інформація швидко накопичується: національні посвідчення особи, дані паспорта, адреси, номери телефонів, квитки працівників або студентів, а також повні імена та прізвища, поєднані з датами народження або клініками. Моделі не потрібен справжній поштовий індекс для складання листа — їй потрібен тон, неідентифікаційні факти та бажаний результат. Замініть імена посадами, узагальнюйте місцезнаходження та відмовтеся від унікальних номерів, якщо ви не тестуєте формат на підробленому прикладі.
Чи можу я вставляти клієнтські файли, угоди про нерозголошення або внутрішній код у споживчий інструмент штучного інтелекту?
Ставтеся до чату споживачів як до продукту зручності, а не до корпоративної консультації. Якщо ви не розміщуєте це в особистому чернетці Gmail або не кажете це в райдшерингу, не розміщуйте це в публічному чаті зі штучним інтелектом – презентаціях клієнтів, неопублікованих дорожніх картах, платіжних відомостях, конфіденційних юридичних чернетках або джерелах з внутрішніми іменами хостів. Опишіть документ, вставте очищений уривок, попросіть структуру, яку ви застосовуєте офлайн, і використовуйте затверджений інструмент на робочому місці, якщо він у вас є, водночас редагуючи його за замовчуванням.
Як мені обробляти інформацію про здоров'я чи фінанси в підказках штучного інтелекту?
Ставте чудові запитання без використання необроблених записів. Загальні пояснення кращі, ніж просто вклеювання лабораторних панелей, списків рецептів, страхових посвідчень, банківських виписок або фотографій карток, які також зображують кухонний стіл. Зніміть номери рахунків та все, що виглядає як посвідчення. Використовуйте чат для обрамлення та контрольні списки, щоб представити їх фахівцю, а не як лікаря, бухгалтера чи картотеку для виписок.
Чому чужі дані та скріншоти особливо ризиковані?
Ви не єдина людина, яка вставляється: електронні листи колег, номери телефонів клієнтів, фотографії дітей або стенограми дзвінків можуть потрапити в систему без їхньої згоди. Підсумовуйте своїми словами, замінюйте імена ролями та ніколи не вставляйте ідентифікаційні дані дітей для «розваги». Знімки екрана містять панелі закладок, токени URL-адрес, імена Slack та відкриті вкладки – обрізайте їх двічі, розмивайте ідентифікатори або передруковуйте помилку замість завантаження паспортів чи карток.
Які безпечніші шаблони підказок все ще отримують надійні відповіді від ШІ?
Будьте конкретними щодо проблеми та скупими щодо ідентифікації: мета, обмеження, фіктивні вхідні дані, бажаний результат. Заповнюйте унікальні мітки, запитуйте метод, а не повний журнал виробництва, розділяйте завдання, щоб самостійно заповнювати конфіденційні частини, та використовуйте синтетичні приклади. Виконайте попереднє сканування перед вставкою на наявність знаків @, довгих випадкових ключоподібних рядків, завеликих чисел та імен, які ви не розмістили б на слайді. Десять секунд окупаються вічно.
Що робити, якщо я вже вставив щось незручне в чат зі штучним інтелектом?
Спочатку припиніть використовувати цей секрет – змініть пароль, скасуйте ключ, анулюйте сеанс. Видаліть чат, якщо це дозволяє продукт, перевірте пам’ять або файли проекту, повідомте потрібну людину, чи це були робочі дані, і слідкуйте за незвичайними входами. Якщо це були чиїсь інші дані, очистіть їх та попередьте, коли це потрібно. Не «перезаписуйте» витік додатковими поясненнями; додатковий контекст – це зайва копія.
Як невелика команда може припинити скидання облікових даних у ШІ для налагодження?
Використовуйте короткий опис, що передбачає редагування: опишіть секрети за типом, фіктивні журнали з REDACTED_KEY та приклади електронних листів, вкажіть, що було видалено, та запитайте про ймовірні причини, а також контрольний список – не «підключитися за допомогою мого ключа». Додайте коротке правило, встановлене людиною – жодних облікових даних, жодної особистої інформації клієнта, жодних неопублікованих даних, редагування за замовчуванням – та покажіть один хороший очищений приклад. Зберігайте справжні облікові дані у сховищі та застосовуйте виправлення офлайн після того, як модель запропонує метод.
Посилання
- NCSC — ncsc.gov.uk
- OpenAI — help.openai.com
- OpenAI — openai.com
- Клод — privacy.claude.com
- Google Workspace — knowledge.workspace.google.com
Статті, які вам, можливо, буде цікаво прочитати після цієї:
🔗 Найкращі інструменти безпеки на основі штучного інтелекту
Відкрийте для себе потужні платформи безпеки на основі штучного інтелекту, які виявляють та зменшують кіберзагрози.
🔗 Чому ШІ іноді вигадує
Зрозумійте, чому ШІ галюцинує, і дізнайтеся, як зменшити ризики.
🔗 Як автоматизувати завдання за допомогою штучного інтелекту.
Впроваджуйте безпечні автоматизовані робочі процеси, додаючи людський нагляд та суворі правила.
🔗 Що таке технологія штучного інтелекту?
Дослідіть основи штучного інтелекту та поширені проблеми його впровадження.