אמזון הודתה שהיא מאזינה ל-"חלק קטן" מההקלטות שלוכדת אלקסה

האם אלקסה, העוזרת הקולית של אמזון מצותתת לנו? מסתבר שכן. אבל לא לכל מלה. נחמה פורתא. דיווח חדש של בלומברג מבהיר כי רוב הזמן, כאשר הלקוחות מדברים אל הרמקול החכם של אמזון, Echo, רק תוכנת הזיהוי הקולי מקשיבה, אבל לפעמים עותק אקראי של האודיו נשלח למבקר אנושי באחד ממטות אמזון ברחבי העולם.

לפי הדיווח, העובד לא מתעניין בהכרח במהות התוכן שהקליטה אלקסה. תפקידו הוא להקשיב לקטע האודיו, לתעתק אותו, ולהוסיף לו הערות מחכימות, וכל זאת בכדי לסייע לאלגוריתמים של אמזון להשתפר.

"אנחנו לוקחים את האבטחה והפרטיות של המידע האישי של הלקוחות שלנו ברצינות", הבטיח דובר אמזון בהודעה לתקשורת עקב החשיפה האחרונה. "אנו מוסיפים רק דוגמה קטנה ביותר של הקלטות קוליות של אלקסה, בכדי לשפר את חוויית הלקוח".

רמקולים חכמים ועזרים מבוססי בינה מלאכותית הנשלטים על ידי קול מדאיגים שוחרי פרטיות ממש מאז הגעתם לעולם. מכיון שהפעלת עוזרים קוליים, כמו אלקסה של אמזון, כרוכה בתגובה שלהם למלות הפעלה שאנו אומרים באופן פתאומי ולא צפוי, הם נמצאים בהאזנה תמידית, והגדרת ברירת מחדל זו הטרידה רבים בעבר. החברות הבטיחו לנו שהנתונים של המשתמשים מוגנים ופרטיים, אבל כעת מסתבר שלא כך.

למרות התעקשותה של אמזון שמדובר על "דגימה קטנה", בלומברג רומז שכוח עבודה משמעותי עושה סוג כזה של עבודה. לדבריו, אמזון מקצה עובדים שמאזינים לקבצי האודיו שאלקסה הקליטה אצלכם בבית במטות שלה בבוסטון, בהודו, בקוסטה ריקה וברומניה, ואלו אמורים לעמוד בהספק של האזנה ופירוש של כ-1,000 קטעי אודיו במשמרת בת 9 שעות. לא ממש זמן שמאפשר חיטוט בנבכי נפש הלקוחות – ובכל זאת…

בלי הבהרות במדיניות הפרטיות

מדיניות הפרטיות של אמזון לא כוללת הבהרה שמה שאלקסה חייבת שיקרה – ההאזנה התמידית בהמתנה למלת ההפעלה – יכול לשמש לצורך הקלטה ופענוח שיעשו בני אנוש, במטרה להכשיר ה"מוח הדיגיטלי" שלה ולשפרו, וזאת בלי ידיעתהמשתמשים.

רוב האנשים פשוט מניחים שאמזון מזינה את ההקלטה הזו לשרתים, ושמאגר הנתונים הענק משמש לתהליכי למידת המכונה, בלי כל מעורבות של גורם אנושי.

בשום מקום לא צוין עד כה שהחברה – קמעונאית ענק אונליין, מהמשפיעות על העולם כיום – מעסיקה בני אדם בכדי להאזין להקלטות הללו, לנתח אותן ולפעול למען שיפור הביצועים של אלקסה התמימה. אבל זה בדיוק מה שבלומברג חושף.

חשוב להבהיר כי לפי הדיווחים, לא רק אמזון נוהגת כך. גם אפל וגם גוגל מעסיקות בני אנוש שמעבדים את התכנים שקולטים העוזרים הקוליים שלהן, סירי ו-Google Assistant, בהתאמה.

ואם הקול באודיו מוכר? ואם נשמעו איומי רצח?

כל החברות הללו ענו באופן דומה כאשר נשאלו על תהליך הסקירה הזה, וטוענות שההקלטות נבחרות באופן אקראי ומוצפן, ומנוטרלות מכל מידע שמאפשר זיהוי אישי של המשתמש שאצלו הוקלטו. לא ברור, עם זאת, מה קורה כאשר קטע האודיו עצמו מכיל חלק מהמידע הזה, ומה מתרחש אם במקרה עובד שומע קול מוכר של אדם מפורסם ופרטי מידע אישיים שעלולים לעניין רבים כרכילות.

ומחשבה נוספת – מה בנוגע לסוקרים עצמם? אלו עלולים למצוא את עצמם מקשיבים לקטע אודיו מטריד, אקראי ככל שיהיה, נניח כזה שכולל איום ברצח או אפילו תיעוד של ביצוע רצח. מקרה שכזה עלול גם להביא לכך שיחוו טראומה מעצם ידיעת סוד נורא שאין ביכולתם לעשות דבר בגינו, או אפילו לגרום לכך שיפרו את החשאיות וידווחו על ששמעו לשלטונות החוק, אם יחששו שמדובר במקרה שחייב התערבות שכזו.

יצוין כי הדברים חמורים שבעתיים אפילו לנוכח הבשורה האחרונה מהשבוע שאמזון מסמנת עוד כיוון צמיחה – עסקי הבריאות: החברה הכריזה ביום ב' על שיתוף פעולה עם ספקיות בריאות, שיאפשר ללקוחותיה גישה לנתוניהם הרפואיים האישיים באמצעות דיבור לאלקסה.

החוק בארצות הברית מאפשר שיתוף מידע רפואי רק בין המטופל לגורמים במערכת הבריאות, כמו רופאים או בתי חולים, מכאן שמידע על אבחנות או מרשמים רפואיים, למשל, אינו זמין לצדדים שלישיים. כעת, אמזון מציינת שיצרה דרך לחברות לשדר את המידע הזה באמצעות אלקסה, תוך עמידה בתנאי החוק, שזה נפלא, אבל מה עם המידע הרפואי האישי שלנו שיגיע לאוזניים הלא נכונות של הסוקרים בצוות אלקסה?