Регистрация  |  Вход

Этический вопрос Безопасности и ИИ

Сейчас на сцену выходит Вайб кодинг. Многие уже не стесняясь используют его в повседневной работе. А не задумываетесь ли вы о том куда отправляется ваш код (код проекта) и как он потом используется? Конечно мы соглашаемся на какие-то соглашения при начале использования ИИ и часто там пишут что ваш контент не будет использоваться в сторонних "корыстных" целях, но где эти границы использования. Отправив один раз проект ИИ в качестве контекста разве вы можете гарантировать его дальнейшую безопасность?
Как раз на днях читал пару интересных статей о том что ИИ могут анализировать ваш код на предмет "интересных" решений и "сохранять" их в своих базах для дальнейшего "внутреннего" использования.

Столько "кавычек" потому что слова в них имеют крайне расплывчатое значение и вы можете подставить свой смысл.

Я понимаю что 99% разрабам это пофиг, их волнует только личная продуктивность. Но все же в этическом отношении. Разве это правильно давать доступ "левым" ИИ к самому важному элементу бизнеса - коду и бизнес логике? Ваш клиент (обладатель прав на код проекта) же не подписывает никаких документов с владельцами ИИ о неразглашении. Значит теоретически вы становитесь потенциальным нарушителем безопасности? Значит теоретически при желании ваш клиент может "вас повесить", точнее повесить на вас какие-то косяки?

Тут выходом видеться использование ИИ развернутых на локальной машине, или ИИ развернутых самим клиентом. Но вы слышали чтобы кто-нибудь этим заморачивался?

Что вы думаете по этому поводу?
Сейчас на сцену выходит Вайб кодинг. Многие уже не стесняясь используют его в повседневной работе. А не задумываетесь ли вы о том куда отправляется ваш код (код проекта) и как он потом используется? Конечно мы соглашаемся на какие-то соглашения при начале использования ИИ и часто там пишут что ваш контент не будет использоваться в сторонних "корыстных" целях, но где эти границы использования. Отправив один раз проект ИИ в качестве контекста разве вы можете гарантировать его дальнейшую безопасность? 
Как раз на днях читал пару интересных статей о том что ИИ могут анализировать ваш код на предмет "интересных" решений и "сохранять" их в своих базах для дальнейшего "внутреннего" использования.

[i]Столько "кавычек" потому что слова в них имеют крайне расплывчатое значение и вы можете подставить свой смысл.[/i]

Я понимаю что 99% разрабам это пофиг, их волнует только личная продуктивность. Но все же в этическом отношении. Разве это правильно давать доступ "левым" ИИ к самому важному элементу бизнеса - коду и бизнес логике? Ваш клиент (обладатель прав на код проекта) же не подписывает никаких документов с владельцами ИИ о неразглашении. Значит теоретически вы становитесь потенциальным нарушителем безопасности? Значит теоретически при желании ваш клиент может "вас повесить", точнее повесить на вас какие-то косяки?

Тут выходом видеться использование ИИ развернутых на локальной машине, или ИИ развернутых самим клиентом. Но вы слышали чтобы кто-нибудь этим заморачивался?

Что вы думаете по этому поводу?
Dmitry Shnyrev
ИИ могут анализировать ваш код на предмет "интересных" решений и "сохранять" их в своих базах для дальнейшего "внутреннего" использования
сочту за честь, если так и произойдет

Dmitry Shnyrev
99% разрабам это пофиг, их волнует только личная продуктивность
раньше то начинающим разрабам было очень тяжело, сейчас стало полегче, они пойдут на все, чтобы просто выжить ближайщий спринт. и легко обойдут в продуктивности тех, кто не пользуется вайб кодингом

Dmitry Shnyrev
Но все же в этическом отношении. Разве это правильно давать доступ "левым" ИИ к самому важному элементу бизнеса - коду и бизнес логике?
все правильно, но зависит от кода - то что мы делаем в СФ - это жалкие скрипты или компонентики, там вообще нет ничего особенного.
плюс в ИИ должна быть настройка - могут ли они обучать модель на этом или нет, могут ли они сохранять. Есть ли такая настройка, как она работе на самом деле, будет ли ее кто-то использовать - другое дело.
но для критических систем, для больших контор, где код - это не просто скрипт, а целое приложение - да, там могут поднимать локальные, внутрисетевые ИИ, и не только для кодинга
[quote="Dmitry Shnyrev"]ИИ могут анализировать ваш код на предмет "интересных" решений и "сохранять" их в своих базах для дальнейшего "внутреннего" использования[/quote]
сочту за честь, если так и произойдет

[quote="Dmitry Shnyrev"]99% разрабам это пофиг, их волнует только личная продуктивность[/quote]
раньше то начинающим разрабам было очень тяжело, сейчас стало полегче, они пойдут на все, чтобы просто выжить ближайщий спринт. и легко обойдут в продуктивности тех, кто не пользуется вайб кодингом

[quote="Dmitry Shnyrev"]Но все же в этическом отношении. Разве это правильно давать доступ "левым" ИИ к самому важному элементу бизнеса - коду и бизнес логике? [/quote]
все правильно, но зависит от кода - то что мы делаем в СФ - это жалкие скрипты или компонентики, там вообще нет ничего особенного. 
плюс в ИИ должна быть настройка - могут ли они обучать модель на этом или нет, могут ли они сохранять. Есть ли такая настройка, как она работе на самом деле, будет ли ее кто-то использовать - другое дело.
но для критических систем, для больших контор, где код - это не просто скрипт, а целое приложение - да, там могут поднимать локальные, внутрисетевые ИИ, и не только для кодинга
Den Brown
все правильно, но зависит от кода - то что мы делаем в СФ - это жалкие скрипты или компонентики, там вообще нет ничего особенного.
У кого как. У нас к примеру полноценное сложное приложение с кучей нюансов к которым мы приходили годами ломая зубы на законодательстве США. При желании это все можно упаковать в пакет и успешно продавать. Но я не маркетолог, поэтому оставлю это на совести клиента. До этого тоже был очень сложный проект Травел Компании. Там тоже использовались достаточно нетривиальные подходы для Salesforce. Я как олдскульный дядька считаю эти наработки достоянием компании которое стоит по крайней мере средств потраченных на всех разработчиков/тестировщиков и прочих. А какой-нибудь мамкин вайбкодер подключит дипсик, сольет весь проект в первом же запросе в качестве контекста (или как оно там работает), а завтра друзья из поднебесной опять же с помощью ИИ сделают из этого проекта готовый пакет под SF и начнут продавать. Круто!
[quote="Den Brown"]все правильно, но зависит от кода - то что мы делаем в СФ - это жалкие скрипты или компонентики, там вообще нет ничего особенного.[/quote]
У кого как. У нас к примеру полноценное сложное приложение с кучей нюансов к которым мы приходили годами ломая зубы на законодательстве США. При желании это все можно упаковать в пакет и успешно продавать. Но я не маркетолог, поэтому оставлю это на совести клиента. До этого тоже был очень сложный проект Травел Компании. Там тоже использовались достаточно нетривиальные подходы для Salesforce. Я как олдскульный дядька считаю эти наработки достоянием компании которое стоит по крайней мере средств потраченных на всех разработчиков/тестировщиков и прочих. А какой-нибудь мамкин вайбкодер подключит дипсик, сольет весь проект в первом же запросе в качестве контекста (или как оно там работает), а завтра друзья из поднебесной опять же с помощью ИИ сделают из этого проекта готовый пакет под SF и начнут продавать. Круто!
Den Brown
плюс в ИИ должна быть настройка - могут ли они обучать модель на этом или нет, могут ли они сохранять. Есть ли такая настройка, как она работе на самом деле, будет ли ее кто-то использовать - другое дело.
Все эти настройки это пыль пока у вас нет официального документа с которым можно пойти в суд. Хоть 100500 настроек сделай - это всего лишь пыль в глаза. Завтра увидишь свой LWC компонент на маркетплейсе и ничего не докажешь.
[quote="Den Brown"]плюс в ИИ должна быть настройка - могут ли они обучать модель на этом или нет, могут ли они сохранять. Есть ли такая настройка, как она работе на самом деле, будет ли ее кто-то использовать - другое дело.[/quote]
Все эти настройки это пыль пока у вас нет официального документа с которым можно пойти в суд. Хоть 100500 настроек сделай - это всего лишь пыль в глаза. Завтра увидишь свой LWC компонент на маркетплейсе и ничего не докажешь.

Dmitry Shnyrev
мамкин вайбкодер подключит дипсик, сольет весь проект в первом же запросе в качестве контекста
так и будет
Dmitry Shnyrev
завтра друзья из поднебесной опять же с помощью ИИ сделают из этого проекта готовый пакет под SF и начнут продавать
сделают и без твоего кода. поэтому сейчас и стоит шум, что сегодня кодинг и software - это уже что-то другое, чем это было раньше, и это потенциально угрожает даже крупнейшим компаниям
[quote="Dmitry Shnyrev"]мамкин вайбкодер подключит дипсик, сольет весь проект в первом же запросе в качестве контекста[/quote]
так и будет
[quote="Dmitry Shnyrev"]завтра друзья из поднебесной опять же с помощью ИИ сделают из этого проекта готовый пакет под SF и начнут продавать[/quote]
сделают и без твоего кода. поэтому сейчас и стоит шум, что сегодня кодинг и software - это уже что-то другое, чем это было раньше, и это потенциально угрожает даже крупнейшим компаниям
кстати, если у тебя код на каком-нибудь облачном гитхабе (даже в private repo), то почему ты думаешь что по нему уже не прошлись LLM?
кстати, если у тебя код на каком-нибудь облачном гитхабе (даже в private repo), то почему ты думаешь что по нему уже не прошлись LLM?
Dmitry Shnyrev
99% разрабам это пофиг,
Это зависит также от клиента и насколько security team (CISO) вовлечен. В больших компаниях не дадут пользоваться если данные или metadata куда уходят..
Также зависит кто руководит процессом разработки: internal team, SF partner team, Salesforce team.

как раз сегодня один и группы делал презентацию про разницу Agentforce Vibes vs Cursor.
один из выводов по теме: Agentforce Vibes исползует Salesforce Trust Layer, Cursor нет
[quote="Dmitry Shnyrev"] 99% разрабам это пофиг, [/quote]
Это зависит также от клиента и насколько security team (CISO) вовлечен. В больших компаниях не дадут пользоваться если данные или metadata куда уходят..
Также зависит кто руководит процессом разработки: internal team, SF partner team, Salesforce team.

как раз сегодня один и группы делал презентацию про разницу Agentforce Vibes vs Cursor.
один из выводов по теме: Agentforce Vibes исползует Salesforce Trust Layer,  Cursor нет