גם הוותיקן שברומא קורא לרגולציה על טכנולוגיית זיהוי פנים

ביום ו' האחרון הודיע הוותיקן כי הוא משתף פעולה עם מיקרוסופט ויבמ לצורך קידום התפתחות אתית לתחום הבינה המלאכותית, וכן בקריאה לפיקוח רגולטורי על טכנולוגיית זיהוי הפנים, המכונה FRT (ר"ת Facial recognition technology), כך על פי רויטרס.

שלושת הארגונים המקדמים את ההתחייבות, המכונה "קריאת רומא לאתיקה של AI", ציינו כי על הבינה המלאכותית לכבד את פרטיות האדם ולעבוד ללא משוא פנים תוך התחשבות בזכויות אדם.

האפיפיור פרנציסקוס הביע חששות מהפצת הטכנולוגיות המתבססות על AI, והוותיקן הראה את תמיכתו בדברים בנאום בשמו של האפיפיור, שהוקרא באירוע בו השתתפו נשיא מיקרוסופט, בראד סמית', וסגן נשיא יבמ, ג'ון קלי.

תכונת זיהוי הפנים. אילוסטרציה: ליה קולטירינה, BigStock

"האסימטריה הזו, שבאמצעותה מעטים בודדים יודעים הכל עלינו בזמן שאיננו יודעים עליהם דבר, מקהה מחשבה ביקורתית ומימוש חופש מודע", נאמר בקטע ממכתב שנכתב מטעם האפיפיור. בהמשך נאמר גם כי "אי השוויון מתרחב מאוד; ידע ועושר מצטברים בידיים בודדות, עם סיכונים חמורים לחברות דמוקרטיות".

המסמך המשותף התייחס באופן ספציפי לניצול פוטנציאלי של טכנולוגיית זיהוי פנים. "יש לעודד צורות רגולציה חדשות, כדי לקדם שקיפות ועמידה בעקרונות אתיים, במיוחד לטכנולוגיות מתקדמות שיש בהן סיכון גבוה יותר להשפיע על זכויות אדם, כמו זיהוי פנים", נכתב במסך.

בהתייחסו לדברים אמר סמית' במפגש כי ה-AI "חייבת להיות מונחה על ידי עקרונות אתיים חזקים הבונים על מסורות זכויות אדם גלובליות".

פרנצ'סקה רוסי, מדענית מחשב האמונה על תחום אתיקת ה-AI העולמית של יבמ, אמרה: "הוותיקן אינו מומחה לטכנולוגיה אלא לערכים. שיתוף הפעולה נועד לגרום לוותיקן ולחברה כולה להבין כיצד להשתמש בטכנולוגיה זו עם ערכים אלה".

כרגע לא ברור האם ישנן גם חברות טכנולוגיה אחרות שעתידות לחתום על האמנה, או כיצד החותמים ייישמו את העקרונות שמופיעים בה.

יכולות זיהוי פנים בידי גורמי אכיפת החוק – האם זה מוסרי?

כדאי לזכור כי גורמי אכיפת החוק ברחבי העולם משתמשים במערכות זיהוי פנים בכדי לחקור פשעים. בנוסף, חברות Fortune 500 השתמשו ב-AI כדי לסנן מועמדים לעבודה בעסקיהן. מדובר על שתי דוגמאות לשימושים דרמטיים ביכולות המתקדמות, שתוכנה לא מדויקת או מוטה המשמשת לשמם עלולה להוביל לפגיעה בבני אדם ובזכויותיהם הבסיסיות.

Clearview AI

אם נדרשת עוד דוגמה להשלכות של השימושים הלא אחראיים בתחום, הרי שהיא מגולמת בדיווח מהשבוע שעבר, על מאגר הלקוחות של Clearview AI – חברת זיהוי הפנים השנויה במחלוקת – שנפרץ. החברה אספה שלושה מיליארד תמונות מהאינטרנט ומהרשתות החברתיות, ואלו היוו את הדטה בייס שלה, שנמכר יחד עם יכולות זיהוי פנים לרשויות אכיפת החוק בעולם. ההתרעות והחששות מכשל באבטחת הנתונים שבידי Clearview AI היו רבות והפריצה, שאמנם לא הגיעה אל הצילומים שבמאגר, הציפה את החשש מפני דליפת הנתונים האישיים הללו של מרבית תושבי כדור הארץ לידיים לא נכונות.

לפי הדיווחים, מיקרוסופט ויבמ דחו בעבר שתיהן הצעות עסקיות, כאשר חשו שלא בנוח עם השימוש בטכנולוגיה זו. 

ביולי 2018 פנתה מיקרוסופט מיוזמתה ובאופן חסר תקדים אל הקונגרס האמריקני בבקשה לחקור את היכולת החדשנית ולפקח אחר השימוש בה, ובכך הייתה לענקית הטכנולוגיה הראשונה לדרוש רגולציה על התחום. נשיאה כתב בפוסט שפרסם בבלוג החברה כי על הממשלה להקים ועדת מומחים דו-מפלגתית לצורך כך, ודיווח בדבריו כי מיקרוסופט, שמספקת טכנולוגיית הכרת פנים לכמה עסקים, כבר דחתה מספר בקשות של לקוחות לפרוס את הטכנולוגיה במצבים שהיוו לסברתה "סיכונים לזכויות אדם". עם זאת, הוא הגן על החוזה של החברה עם רשויות ההגירה ואכיפת המכס של ארצות הברית, באומרו כי בקשרים אלו לא נעשה שימוש ב-FRT.

גם כעת, במקביל לקידום היוזמה עם הוותיקן, הענקיות מעמק הסיליקון משתדלות להציג כיצד הן פועלות לנטרול השפעה רעה של הטכנולוגיות החדשניות, וניצולן שלא באופן אתי. כך למשל, אחת היוזמות שבהן מתמקדת יבמ היא החובה, לדידה, לשילוב רופאים בעת שימוש בטכנולוגיית בינה מלאכותית לצורך המלצות בריאות. ההליך הזה אולי יסרבל מעט את הביצוע אבל ישמור על אתיקה מקצועית. היוזמה הזו יושמה כבר במסגרת עסקה עם בית החולים לילדים מרומא, Bambino Gesù, שבבעלות הוותיקן. בשותפות הספציפית הזו ייתמקדו בפיתוח טכנולוגיות להאצת הליכי האבחונים והטיפול בחולים בעלי גידולי מוח.