Не поступайте так с Gemini. Google забанила подростка и его семью за одно действие

То, что должно было стать неловким семейным секретом, обернулось тотальной цифровой катастрофой для пятерых британцев.

14-летний подросток, решивший поэкспериментировать с камерой искусственного интеллекта, по неосторожности уничтожил не только свой аккаунт, но и все цифровое наследие своих родителей и сестер.

Google, чьи алгоритмы призваны защищать детей, нанесла удар возмездия по всей семье, заблокировав доступ к электронной почте, документам и финансовым записям, накопленным за полтора десятилетия.

По информации, опубликованной анонимным пользователем на форуме LegalAdviceUK (на который затем сослалось издание PCWorld), инцидент произошел на общем семейном планшете.

Несмотря на включенный родительский контроль, 14-летний юноша активировал режим Gemini Live — функцию голосового ассистента Google, имеющую доступ к камере устройств, – пишет «Газета.Ru».

Желая, по всей видимости, проверить границы допустимого, подросток использовал функцию в откровенном сценарии, продемонстрировав нейросети свое обнаженное тело.

Системы безопасности техногиганта, которые в последние годы ведут беспрецедентную войну с любым контентом, касающимся несовершеннолетних (CSAM), среагировали молниеносно. Сначала была заблокирована учетная запись самого школьника.

Однако на этом цифровой кошмар только начинался. Спустя несколько дней под блокировку попали все Google-аккаунты, которые когда-либо были авторизованы на этом планшете.

В «красную зону» отчуждения вошли не только родители мальчика, но и его сестры. Одна из них, студентка колледжа, находится в другом конце Великобритании, однако это не спасло ее от алгоритмов корпорации. Всего под раздачу попали пять человек, трое из которых являются совершеннолетними.

Я потерял доступ ко всему. К данным моего бизнеса за 15 лет, к счетам, к документам. Я не понимаю, как буду платить по ипотеке через три месяца, — цитирует слова отца семейства издание Android Authority .

Масштаб трагедии для семьи оказался колоссальным. Google Drive, Gmail и Google Docs были для них не просто приложениями, а основой существования. Помимо бухгалтерии и деловой переписки, под нож пошли и учебные материалы.

Девушка, готовящаяся к сдаче диссертации в Шотландии, потеряла результаты многомесячной работы, оказавшись перед фактом невозможности сдать работу в срок.

Пострадавшие оказались в классической для современного мира ловушке: их жизнь была зашита в экосистему Google, а теперь вход туда заказан.

Автор поста на Reddit жалуется, что связаться с живым представителем поддержки по такому деликатному вопросу практически невозможно. Система выдает стандартный ответ: политика компании в области защиты детей не подлежит обсуждению.

Моя дочь в панике. Мы не можем получить даже пароли от банков, потому что они приходят на заблокированную почту. Это порочный круг, — описывает ситуацию глава семейства.

Журналисты PCWorld обратились за комментарием к Google. На момент публикации материала содержательный ответ получен не был, однако представители компании уже высказались в других профильных СМИ. В Google факт блокировки всей семьи отрицают, называя его технически невозможным.

В корпорации пояснили, что блокировка аккаунта одного из детей никогда не влечет за собой блокировку аккаунтов родителей. Более того, в Google усомнились в деталях истории: по их данным, Gemini Live в том виде, в котором его описывает автор жалобы, не поддерживает загрузку видео с камеры таким образом.

Это породило волну слухов о том, что, возможно, мальчик использовал аккаунты родителей после того, как заблокировали его собственный, либо история является частично вымышленной.

Тем не менее, эта история уже вызвала широкий резонанс в среде IT-специалистов и обывателей. Она вскрыла пугающую реальность цифрового феодализма: одного ошибочного действия или сбоя алгоритма достаточно, чтобы человек, добровольно передавший гиганту все свои данные, оказался выброшен на обочину цифровой жизни без права на восстановление.