Anthropic вперше за понад рік оновила правила використання Claude. Компанія заборонила систематичне жорстоке ставлення до чатбота та уточнила обмеження для потенційно небезпечних застосувань ШІ.
Систематичні образи та жорстока поведінка
Одне з головних нововведень стосується того, як користувачі взаємодіють із Claude. Anthropic заборонила тривалу та безпідставну образливу або жорстоку поведінку щодо своїх ШІ-моделей.
Заборона діятиме лише у випадках, коли користувач систематично ображає чатбота без жодної очевидної причини. Звичайне невдоволення відповідями, критика Claude, обговорення похмурих творчих тем або тестування моделей під заборону не підпадають.
Основним способом реагування на порушення залишиться завершення розмови. Anthropic запровадила таку можливість ще в серпні в межах досліджень добробуту ШІ-моделей.
Чи застосовуватиме компанія додаткові санкції, такі як блокування облікових записів, наразі невідомо.
Anthropic досліджує питання, чи можуть сучасні ШІ-моделі мати певний внутрішній досвід або свідомість. Компанія поки не стверджує, що Claude є свідомим, проте вважає за необхідне досліджувати потенційний добробут моделей у міру розвитку їхніх можливостей.
Заборони на стеження, зброю та маніпуляції
Оновлені правила також обмежують використання Claude для прихованих комерційних і політичних кампаній. Зокрема, заборонено приховувати справжніх організаторів інформаційних кампаній або штучно поширювати повідомлення через фальшиві облікові записи.
Окремі положення стосуються виборів. Claude не можна використовувати для поширення неправдивої інформації про кандидатів, процедури голосування або для перешкоджання участі виборців.
Anthropic також розширила заборону на використання ШІ для розроблення зброї.
Тепер обмеження прямо охоплюють програмне забезпечення та компоненти, необхідні для роботи зброї. До них належать і системи керування озброєними дронами та іншими автономними апаратами.
Компанія пояснює зміни тим, що вже фіксувала спроби використовувати Claude для створення інструкцій і програм керування зброєю.
Посилено й правила щодо стеження за людьми. Claude заборонено використовувати для відстеження людей без їхньої згоди. Це стосується як спостереження в реальному часі, так і аналізу раніше зібраних даних.
Крім того, ШІ не повинен визначати або рекомендувати, кого правоохоронцям варто розслідувати, заарештовувати чи притягувати до кримінальної відповідальності.
Заборона також поширюється на створення та вдосконалення інструментів стеження.
Водночас Anthropic допускає можливість змінювати окремі обмеження для певних державних замовників за наявності достатніх заходів безпеки.
Керування фізичними пристроями
Anthropic також запровадила нові правила для пристроїв, якими керує Claude, зокрема роботів та іншого автономного обладнання.
Якщо такий пристрій може завдати шкоди людині, за його роботою має стежити кваліфікований оператор, здатний за потреби зупинити його. При цьому Anthropic не уточнює, чи обов’язково оператором має бути людина.
