vaspvort
Ночной дозор
Команда форума
Модератор
ПРОВЕРЕННЫЙ ПРОДАВЕЦ
Private Club
Старожил
Migalki Club
Меценат💎
Создатель мессенджера Signal Мокси Марлинспайк стремится аналогичным образом революционизировать чат-боты, добавив слой анонимности. Он разрабатывает ИИ-помощника Confer с открытым исходным кодом, который гарантирует, что данные пользователей будут недоступными для оператора платформы, хакеров, правоохранительных органов или любой другой стороны, кроме самих владельцев учётных записей.
Сервис, включая его большие языковые модели и компоненты бэкэнда, полностью работает на программном обеспечении с открытым исходным кодом, наличие которого пользователи могут криптографически проверить. Данные и разговоры, исходящие от пользователей, а также ответы от языковых моделей шифруются в доверенной среде выполнения (TEE), которая предотвращает даже просмотр или изменение данных администраторами серверов. Разговоры хранятся Confer в том же зашифрованном виде с использованием ключа на устройствах пользователей.
Как и Signal, Confer отличается простотой в своей внутренней структуре и дизайне.
В настоящее время все основные ИИ-платформы обязали передавать данные пользователей правоохранительным органам или частным лицам в рамках судебного разбирательства. Даже если пользователи отказываются от долгосрочного хранения своих данных, информацию может хранить сам разработчик ИИ. Так, в мае прошлого года суд обязал OpenAI сохранять все журналы пользователей ChatGPT, включая удалённые и конфиденциальные чаты, зарегистрированные через API-сервис.
Эксперт по защите данных с псевдонимом Эм назвала ИИ-помощников «заклятым врагом» защиты данных, поскольку их полезность основана на сборе огромных объёмов данных из множества источников, включая отдельных лиц.
«Модели ИИ по своей природе являются сборщиками данных. Они полагаются на сбор больших объёмов данных для обучения, улучшений, операций и персонализации. Чаще всего эти данные собираются без чёткого и информированного согласия (неосведомлённых участников обучения или пользователей платформы) и передаются частной компании, имеющей множество стимулов делиться этими данными и монетизировать их», — сказала она Ars.
Отсутствие контроля со стороны пользователя особенно проблематично, учитывая характер взаимодействия в рамках LLM, говорит Марлинспайк. Пользователи часто воспринимают диалог как интимную беседу, делятся своими мыслями, страхами, проступками, деловыми операциями и секретами. Взаимодействие принципиально отличается от традиционных поисковых запросов в интернете, которые обычно придерживаются транзакционной модели: ключевые слова — вход, ссылки — выход.
Разработчик сравнивает использование ИИ с признанием в «озере данных». В ответ на это Марлинспайк разработал и тестирует Confer. Подобно тому, как Signal использует шифрование, чтобы сделать сообщения доступными для чтения только участникам разговора, ИИ-помощник защищает пользовательские запросы, ответы ИИ и все содержащиеся в них данные. Как и в Signal, здесь нет возможности связать отдельных пользователей с их реальной личностью через адрес электронной почты, IP-адрес или другие данные.
«Характер взаимодействия принципиально отличается, потому что это частное взаимодействие. Было действительно интересно, воодушевляюще и удивительно услышать истории от людей, которые использовали Confer и провели разговоры, изменившие их жизнь, отчасти потому, что они не чувствовали себя свободно, чтобы делиться информацией в беседах с ChatGPT, или у них были идеи, основанные на данных, которыми они раньше не могли свободно делиться с ChatGPT, но теперь могут это делать, используя такую среду, как Confer», — сказал Марлинспай.
Одним из основных элементов шифрования Confer выступают пароли. Этот общепринятый в отрасли стандарт генерирует 32-байтовую пару ключей шифрования, уникальную для каждого сервиса, к которому подключается пользователь. Открытый ключ отправляется на сервер. Закрытый ключ хранится только на устройстве пользователя, внутри защищённого оборудования, к которому не могут получить доступ хакеры. Пароли обеспечивают двухфакторную аутентификацию и могут быть настроены для входа в учётную запись с помощью отпечатка пальца, сканирования лица, PIN-кода или пароля разблокировки устройства.
Хранилище Confer позволяет синхронизировать переписки между другими устройствами. Код, обеспечивающий всю эту работу, доступен для изучения любому желающему. Он выглядит так:
const assertion = await navigator.credentials.get({
mediation: "optional",
publicKey: {
challenge: crypto.getRandomValues(new Uint8Array(32)),
allowCredentials: [{ id: credId, type: "public-key" }],
userVerification: "required",
extensions: { prf: { eval: { first: new Uint8Array(salt) } } }
}
}) as PublicKeyCredential;
const { prf } = assertion.getClientExtensionResults();
const rawKey = new Uint8Array(prf.results.first);
Удалённая аттестация позволяет любому воспроизвести побитовые выходные данные, подтверждающие, что на сервере работает только общедоступное программное обеспечение для прокси и обработки изображений. Для дальнейшей проверки корректной работы Confer каждый релиз подписывается цифровой подписью и публикуется в журнале прозрачности.
Встроенная поддержка Confer доступна в последних версиях macOS, iOS и Android. В Windows пользователям необходимо установить сторонний аутентификатор. Поддержка Linux также отсутствует, хотя есть расширение.
Ещё одно общедоступное LLM-решение, предлагающее сквозное шифрование (E2EE), — это Lumo, предоставляемое европейской компанией Proton. В нём используется тот же механизм шифрования, что и в Proton Mail, Drive и Calendar. Внутреннее устройство механизма значительно сложнее, чем в Confer, поскольку оно основано на использовании как симметричных, так и асимметричных ключей. Однако конечный результат для пользователя в значительной степени тот же.
По словам представителей Proton, после аутентификации в учётной записи все разговоры, данные и метаданные шифруются симметричным ключом, которым обладает только пользователь. Пользователи могут выбрать хранение зашифрованных данных на серверах Proton для синхронизации с устройством или их удаление сразу после завершения разговора.
Третий поставщик LLM-сервисов, обещающий конфиденциальность, — это Venice. Он хранит все данные локально, то есть на устройстве пользователя.
Источник
Сервис, включая его большие языковые модели и компоненты бэкэнда, полностью работает на программном обеспечении с открытым исходным кодом, наличие которого пользователи могут криптографически проверить. Данные и разговоры, исходящие от пользователей, а также ответы от языковых моделей шифруются в доверенной среде выполнения (TEE), которая предотвращает даже просмотр или изменение данных администраторами серверов. Разговоры хранятся Confer в том же зашифрованном виде с использованием ключа на устройствах пользователей.
Как и Signal, Confer отличается простотой в своей внутренней структуре и дизайне.
В настоящее время все основные ИИ-платформы обязали передавать данные пользователей правоохранительным органам или частным лицам в рамках судебного разбирательства. Даже если пользователи отказываются от долгосрочного хранения своих данных, информацию может хранить сам разработчик ИИ. Так, в мае прошлого года суд обязал OpenAI сохранять все журналы пользователей ChatGPT, включая удалённые и конфиденциальные чаты, зарегистрированные через API-сервис.
Эксперт по защите данных с псевдонимом Эм назвала ИИ-помощников «заклятым врагом» защиты данных, поскольку их полезность основана на сборе огромных объёмов данных из множества источников, включая отдельных лиц.
«Модели ИИ по своей природе являются сборщиками данных. Они полагаются на сбор больших объёмов данных для обучения, улучшений, операций и персонализации. Чаще всего эти данные собираются без чёткого и информированного согласия (неосведомлённых участников обучения или пользователей платформы) и передаются частной компании, имеющей множество стимулов делиться этими данными и монетизировать их», — сказала она Ars.
Отсутствие контроля со стороны пользователя особенно проблематично, учитывая характер взаимодействия в рамках LLM, говорит Марлинспайк. Пользователи часто воспринимают диалог как интимную беседу, делятся своими мыслями, страхами, проступками, деловыми операциями и секретами. Взаимодействие принципиально отличается от традиционных поисковых запросов в интернете, которые обычно придерживаются транзакционной модели: ключевые слова — вход, ссылки — выход.
Разработчик сравнивает использование ИИ с признанием в «озере данных». В ответ на это Марлинспайк разработал и тестирует Confer. Подобно тому, как Signal использует шифрование, чтобы сделать сообщения доступными для чтения только участникам разговора, ИИ-помощник защищает пользовательские запросы, ответы ИИ и все содержащиеся в них данные. Как и в Signal, здесь нет возможности связать отдельных пользователей с их реальной личностью через адрес электронной почты, IP-адрес или другие данные.
«Характер взаимодействия принципиально отличается, потому что это частное взаимодействие. Было действительно интересно, воодушевляюще и удивительно услышать истории от людей, которые использовали Confer и провели разговоры, изменившие их жизнь, отчасти потому, что они не чувствовали себя свободно, чтобы делиться информацией в беседах с ChatGPT, или у них были идеи, основанные на данных, которыми они раньше не могли свободно делиться с ChatGPT, но теперь могут это делать, используя такую среду, как Confer», — сказал Марлинспай.
Одним из основных элементов шифрования Confer выступают пароли. Этот общепринятый в отрасли стандарт генерирует 32-байтовую пару ключей шифрования, уникальную для каждого сервиса, к которому подключается пользователь. Открытый ключ отправляется на сервер. Закрытый ключ хранится только на устройстве пользователя, внутри защищённого оборудования, к которому не могут получить доступ хакеры. Пароли обеспечивают двухфакторную аутентификацию и могут быть настроены для входа в учётную запись с помощью отпечатка пальца, сканирования лица, PIN-кода или пароля разблокировки устройства.
Хранилище Confer позволяет синхронизировать переписки между другими устройствами. Код, обеспечивающий всю эту работу, доступен для изучения любому желающему. Он выглядит так:
const assertion = await navigator.credentials.get({
mediation: "optional",
publicKey: {
challenge: crypto.getRandomValues(new Uint8Array(32)),
allowCredentials: [{ id: credId, type: "public-key" }],
userVerification: "required",
extensions: { prf: { eval: { first: new Uint8Array(salt) } } }
}
}) as PublicKeyCredential;
const { prf } = assertion.getClientExtensionResults();
const rawKey = new Uint8Array(prf.results.first);
Удалённая аттестация позволяет любому воспроизвести побитовые выходные данные, подтверждающие, что на сервере работает только общедоступное программное обеспечение для прокси и обработки изображений. Для дальнейшей проверки корректной работы Confer каждый релиз подписывается цифровой подписью и публикуется в журнале прозрачности.
Встроенная поддержка Confer доступна в последних версиях macOS, iOS и Android. В Windows пользователям необходимо установить сторонний аутентификатор. Поддержка Linux также отсутствует, хотя есть расширение.
Ещё одно общедоступное LLM-решение, предлагающее сквозное шифрование (E2EE), — это Lumo, предоставляемое европейской компанией Proton. В нём используется тот же механизм шифрования, что и в Proton Mail, Drive и Calendar. Внутреннее устройство механизма значительно сложнее, чем в Confer, поскольку оно основано на использовании как симметричных, так и асимметричных ключей. Однако конечный результат для пользователя в значительной степени тот же.
По словам представителей Proton, после аутентификации в учётной записи все разговоры, данные и метаданные шифруются симметричным ключом, которым обладает только пользователь. Пользователи могут выбрать хранение зашифрованных данных на серверах Proton для синхронизации с устройством или их удаление сразу после завершения разговора.
Третий поставщик LLM-сервисов, обещающий конфиденциальность, — это Venice. Он хранит все данные локально, то есть на устройстве пользователя.
Источник
