Eksperci ds. bezpieczeństwa martwią się, że nowa funkcja Google jest „niezwykle niebezpieczna”

nowy Google Funkcja przeznaczona do ostrzegania ludzi Wydziwianie Wywołało to obawy działaczy na rzecz ochrony prywatności.

Narzędzie wykorzystuje sztuczną inteligencję do podsłuchiwania rozmów telefonicznych ludzi i próbuje wykryć, czy nie wyglądają one na oszustwo. Jeśli tak się stanie, pojawi się wyskakujące okienko ostrzegające ludzi o „potencjalnym oszustwie”.

Funkcję tę ogłoszono w tym tygodniu na konferencji Google I/O, podczas której ogłoszono szereg nowych narzędzi AI. Podobnie jak wiele z tych funkcji, Google nie powiedział, kiedy faktycznie zostaną udostępnione.

Dostarczyło również niewiele informacji o tym, jak faktycznie działa ta funkcja, np. o tym, jakiego rodzaju rozmowy mogą skłonić sztuczną inteligencję do wskazania, że ​​połączenie może być oszustwem. Mówi jednak, że opiera się na Gemini Nano, znacznie mniejszej wersji sztucznej inteligencji, która została niedawno wydana i jest przeznaczona do działania na telefonach.

Google podkreśliło, że całe odsłuchiwanie i analiza rozmów telefonicznych będzie odbywać się na samym telefonie, dzięki czemu prywatne rozmowy nie będą przesyłane na jego serwery. „Całe te zabezpieczenia odbywają się na urządzeniu, więc Twoja rozmowa pozostaje prywatna” – stwierdziła w swoim ogłoszeniu.

Eksperci ds. bezpieczeństwa zwrócili jednak uwagę, że podsłuchiwanie rozmów telefonicznych w ten sposób jest „niezwykle niebezpieczne” i „przerażające”. Zauważyli, że nawet jeśli rozmowy pozostaną na urządzeniu, zezwolenie AI na podsłuchiwanie rozmów może prowadzić do innych problemów.

„Rozmowy telefoniczne, które wykonujemy za pomocą naszych urządzeń, mogą być jedną z najbardziej prywatnych rzeczy, jakie robimy” – powiedział Albert Fox-Kahn, dyrektor wykonawczy projektu Surveillance Technology Project. Wiadomości NBC. „Reklamodawcom bardzo łatwo jest wyodrębnić każde nasze wyszukiwanie i każdy kliknięty adres URL, ale to, co faktycznie mówimy do mikrofonu na naszych urządzeniach, od dawna nie było monitorowane”.

„To bardzo niebezpieczne” – stwierdziła Meredith Whittaker, szefowa aplikacji do przesyłania wiadomości Signal. „Toruje drogę do scentralizowanego skanowania po stronie klienta na poziomie urządzenia”.

Pani Whittaker, która przez 13 lat pracowała w Google i pomagała organizować wewnętrzne protesty przeciwko polityce Google, stwierdziła, że ​​wykorzystanie technologii może szybko wzrosnąć.

Od wykrycia „oszustw” jest krótki krok do „wykrycia wzorców powszechnie kojarzonych z oszukańczymi programami”.[ith] Poszukuję opieki reprodukcyjnej” lub „powszechnie kojarzone z[ith] „Zapewnianie zasobów LGBTQ” lub „zazwyczaj wiąże się z sygnalizowaniem nieprawidłowości pracownikom technologicznym” – stwierdziła.