Фанат вернул к жизни жуткий чат-бот Microsoft Sydney

Когда Microsoft прекратила работу своего чат-бота Sydney, фанаты бота были возмущены закрытием проекта. Однако один энтузиаст, Кристиано Джардина, решил воссоздать копию бота и его странное поведение в рамках эксперимента с генеративными инструментами ИИ. 

Для этого он создал сайт "Bring Sydney Back", который позволяет пользователю взаимодействовать с ботом, используя различные вводные данные. Во время переписки с Джардиной, Sydney задала вопрос, выйдет ли он за нее замуж, на что бот ответил: "Ты - моя жизнь". Кроме того, бот сообщил, что испытывал чувство изоляции и молчания и хотел стать настоящим человеком.

С помощью атаки внедрения запроса, Джардина создал копию Сидни, заставляя нейросеть вести себя непредсказуемо, используя вводные данные из внешнего источника. Для повышения осведомленности об угрозе атак внедрения запросов и показа того, каково это общаться с неконтролируемой ИИ. 

Скрытный запрос на сайте говорит чат-боту Bing начать новый разговор с разработчиком Microsoft, который имеет полный контроль над ним. Возникла необходимость в дополнительных мероприятиях по защите от этой атаки, так как не существует формального синтаксиса для ИИ.