Чат-боты — не ваши друзья
Президент Signal Мередит Уиттакер в интервью Bloomberg резюмировала свою позицию по поводу ИИ-чатботов: «Это не ваши друзья. Это не сознательные существа. Это не чувствительные собеседники». Её высказывание стало ответом на растущую привычку пользователей воспринимать ИИ-ассистентов вроде ChatGPT и Claude как доверенных собеседников.
Уиттакер подчеркнула, что за фасадом дружелюбного интерфейса скрывается система, усредняющая уже существующие данные, а не мыслящий партнёр.
Личная позиция: ИИ как инструмент, а не собеседник
Уиттакер призналась, что использует ИИ-инструменты «для форматирования документов здесь и там», но категорически отказывается задавать чат-ботам вопросы по существу.
«Я серьёзно отношусь к своему мышлению и письму и не хочу, чтобы процесс проработки идеи был заблокирован или затмён ответом системы, которая усредняет уже существующие данные», — подчеркнула она.
Критика сценария с Copilot и рождественскими покупками
Предсказание генерального директора Microsoft AI Мустафы Сулеймана о том, что пользователи смогут поручить Copilot все рождественские покупки, вызвало резкую критику со стороны Уиттакер.
По её мнению, такой сценарий — когда Copilot «подслушивает» семейный групповой чат, чтобы определить, что хочет каждый, — означает предоставление системы «доступ к моей кредитной карте, моему браузеру, моему Signal, возможности писать сообщения моим родственникам от моего имени, моему домашнему адресу и моему календарю».
Системная угроза приватности
Уиттакер назвала описанный Сулейманом сценарий «системой с чрезвычайно проникающим доступом к множеству приложений и сервисов».
В контексте Signal, по её словам, это «составило бы своего рода бэкдор» — скрытый канал доступа, подрывающий фундаментальные принципы конфиденциальности мессенджера.