Сотрудники Samsung слили конфиденциальную информацию при использовании ChatGPT

ChatGPT стал головной болью для Samsung. Популярность чат-бота на базе искусственного интеллекта побудила некоторые компании начать интегрировать его в свои рабочие процессы. Одним из них была компания Samsung Semiconductor, где инженеры использовали ее для устранения ошибок в коде своих продуктов, не подозревая, что они передают конфиденциальную информацию.

Согласно отчету Economist, сотрудники Samsung трижды сливали конфиденциальный контент, некоторые из которых включали исходный код. Инциденты произошли в течение двадцати дней после того, как южнокорейский гигант разрешил использовать ChatGPT в своем полупроводниковом подразделении. По данным издания, сотрудники стремились воспользоваться двумя ключевыми функциями чат-бота, не зная, что данные попадут в OpenAI.

Первая утечка произошла от инженера, отвечающего за собственное программное обеспечение базы данных. Сотрудник столкнулся с ошибкой компиляции, и ему было просто скопировать и вставить исходный код в ChatGPT, чтобы найти решение. Хотя многие обращаются к чат-ботам для решения проблем планирования, OpenAI предлагает пользователям не вводить конфиденциальную информацию.

Вторая утечка произошла, когда другой сотрудник ввел код, используемый для идентификации неисправных чипов, и попросил ChatGPT оптимизировать его. Эту утечку можно считать самой деликатной из-за секретности производственных процессов в Samsung. Наконец, третий сотрудник ввел документ с подробностями встречи, чтобы ИИ сгенерировал презентацию.

Столкнувшись с утечками, Samsung применила экстренные меры и ввела ограничение на загрузку в 1024 байта на вопросы, задаваемые в ChatGPT. Компания подтвердила, что проведет расследование и при необходимости накажет виновных.

ChatGPT - головная боль для некоторых компаний

Утечка конфиденциальной информации Samsung может быть не первой, которую получает ChatGPT. С момента резкого роста популярности тысячи пользователей обратились к искусственному интеллекту OpenAI, чтобы задавать вопросы, решать проблемы и улучшать контент. Некоторые программисты вводят исходный код в ожидании, пока ИИ выявит ошибки или оптимизирует программу.

Мало кто знает, что вся информация, которую они вводят в ChatGPT, попадает на серверы OpenAI и используется для обучения модели. Это уже вызвало тревогу во многих компаниях, которые ограничивают или запрещают своим сотрудникам использовать чат-бота. Amazon уже разослала предупреждения своим сотрудникам, в то время как Verizon и JP Morgan Chase предпочли запретить использование, опасаясь утечки.

Дело Samsung важно, поскольку конфиденциальные данные поступили из одного из его крупнейших подразделений. Samsung Semiconductor отвечает за производство процессоров, датчиков изображения, памяти и решений для хранения, которые используются как в ее продуктах, так и в других устройствах сторонних производителей. Шаблон для выявления неисправных микросхем требует специального экранирования в такой конкурентной отрасли, как полупроводниковая.

Согласно отчету, Samsung подождет окончания расследования, чтобы принять решение. Компания разрешает некоторым своим сотрудникам использовать ChatGPT, чтобы познакомить их с технологией, хотя может запретить это, если утечки продолжатся. Такие подразделения, как отделы мобильной связи, обслуживания пользователей и умного дома, не имеют права использовать его в своих рабочих группах.

Читайте также: Билл Гейтс считает плохой идеей сдерживание моделей искусственного интеллекта, более мощных, чем GPT-4.