במאמר חדש, בוחן ד"ר אורי הכהן ערוץ חדש לעריכת ביקורת על המערכות האלגוריתמיות שמשתמשות את הפלטפורמות הדיגיטליות הגדולות: ביקורת מבוססת משתמשים. במאמרו, בוחן ד"ר הכהן את הפוטנציאל הבלתי ממומש של מנגנון הביקורת שהוא מציע, את המכשולים העומדים בפני מימושו ואת דרכי ההתמודדות להסרתם.
נקודת המוצא של המאמר הינה הצורך חברתי גובר בכלי ביקורת אפקטיביים ודינמיים של מערכות אלגוריתמיות, בעיקר אלו המצויות בידי הפלטפורמות דיגיטליות הגדולות, כגון מטא, גוגל ואמאזון. פלטרפורמות אלה מספקות ערך רב למשתמשים, אך בד בבד מחזיקות בידיהן מידע וכוח רב אשר עלול לארוך זמן לפגוע באינטרס הציבורי כגון מניעת אפליה והגנה על אוכלוסיות מוחלשות. באמצעות שימוש רחב במערכות אלגוריתמיות, פלטפורמות הענק צוברות מידע עצום על משמשיהן, עוקבות אחר התנהגותם ומתייגות (profiling) אותם. בכך נחשפים המשתמשים לסיכונים לא מבוטלים של הפליה מוסווית וכפיפות למניפולציה מסחרית. לצד הצעות רגולטוריות שונות שהועלו בניסיון להתמודד עם פערי הכוחות בין הפלטפורמות לבין המשתמשים וחשש לפגיעה בהם, המנגנון של ביקורת אלגוריתמית (Algorithmic Audit) הפך לכלי מרכזי. כך, המדינות המערביות המרכזיות – ארה"ב, בריטניה והאיחוד האירופי – קבעו כללי אסדרה של ביקורת אלגוריתמית. בארה"ב, חוקים קיימים ( the Algorithmic Accountability Act) ומתגבשים (Digital Services Oversight and Safety Act ו- the Platform Accountability and Transparency Act) מחייבים פלטפורמות להעריך סיכונים מערכתיים, לדווח על סיכונים אלה לנציבות הפדרלית למסחר (FTC) ולשתף נתונים עם עיתונאים וחוקרים באופן שיאפשר עריכת ביקורת. באיחוד האירופי, ה-Digital Services Act (DSA) מחייב פלטפורמות גדולות להערכה שנתית של סיכונים מערכתיים בפלטרפורמה ומציע מנגנון לשיתוף נתונים עם גורמי ביקורת חיצוניים, ה-General Data Protection Regulation (GDPR) מחייב את הפלטפורמות הדיגיטליות לערוך ביקורות פנימיות של הגנת נתונים ולשתף מידע עם הרשויות. וה- AI Act מחייב ביקורת חיצונית למערכות אלגוריתמיות שמשקפות "סיכון גבוה." גם בבריטניה רשויות המדינה שמות דגש ניכר על ביקורת אלגוריתמית ככלי פיקוחי, והוקם בה פורום המאגד מספר רשויות רגולטוריות, ה- Digital Regulation Cooperation Forum (DRCF), בעל סמכויות רחבות לקבלת מידע מפלטרפורמות ועריכת ביקורות.
ביקורת אלגוריתמית יכולה להיעשות באחת משלושה אופנים. ראשית, ביקורת אלגוריתמית יכולה להיעשות על ידי הפלטפורמה עצמה. לפלטפורמה היכולת המרבית לעריכת ביקורת בהינתן גישתה הבלתי אמצעית והבלתי מוגבלת למידע ולמערכת האלגוריתמית שברשותה. אולם, הפלטרפורמה מונעת בראש ובראשונה מאינטרסים עסקיים שעשויים לעמוד בניגוד לאינטרס הציבורי. אפשרות נוספת היא ביקורת אלגוריתמית שנעשית על ידי גוף חיצוני שעובד בשיתוף פעולה קרוב עם הפלטפורמה. גם במקרה הזה, הגוף הבוחן נהנה אומנם מגישה רחבה לנתונים ולמערכות, אך גם הוא נתון בניגוד עניינים מובנה נוכח מימונו וכפיפותו לפלטפורמה הנבחנת. האפשרות השלישית, העדיפה ביותר מבחינה ציבורית גם אף גם המאתגרת ביותר מבחינת גישתה למידע ומערכות, היא ביקורת אלגוריתמית עצמאית על ידי צדדים שלישיים בלתי תלויים, כגון אקדמאים, רגולטורים או משתמשים.
במאמרו, מגדיר ד"ר הכהן בביקורת אלגוריתמית מבוססת משתמשים (user-based). ביקורת אלגוריתמית זו מאבחן ד"ר הכהן בין ביקורת יזומה על ידי המשתמשים (user-driven), לבין ביקורת בה המשתמשים מסייעים לצד שלישי עצמאי שעורך ומנהל את הביקורת (user-assisted). בשני המקרים הביקורת האלגוריתמית יכולה להיות מפוקחת (supervised), קרי מונחית על ידי מטרות מחקר מוגדרות מראש; או בלתי מפוקחת (unsupervised), קרי נועדת לצורך מחקר חלוצי ללא מטרה מסוימת. בתור יצרני הקלט (המידע) שמזין את המערכת האלגוריתמית והמושפעים העיקריים מתוצריו (החיזוי), למשתמשים יש מוטיבציה ויכולת ייחודיים לשחזר את מאגרי המידע שהפלטפורמות שומרות בדרך כלל בסודיות, ולסייע לעצמם ולגופים שלישיים עצמאיים לערוך ביקורת אלגוריתמית. כך, יכולים המשתמשים להניע מחקר אקדמי או ממשלתי ואף ליזום שיתופי פעולה עצמאיים לאיסוף מידע ולאיתור כשלים בפעולת האלגוריתם. בהינתן ממצאים משכנעים, ביקורת כזו עשויה להוביל בהמשך לביקורת על ידי הרשויות או הפלטפורמה עצמה.
חרף אפשרויות אלו, במצב הטכנולוגי-משפטי הקיים ביקורת מבוססת משתמשים נתונה למספר לא מבוטל של מכשולים המקשים על יישומה. ראשית, איסוף המידע על ידי משתמשים באופן ידני או אוטומטי על ידי טכנולוגיות קצירת מידע (scraping), מפר בדרך כלל את תנאי השימוש של הפלטפורמות ועשוי להקים חבות משפטית בגין הפרת חוזה כנגד המשתמשים וכנגד גופים מבקרים נלווים. גורמים אלו עשויים גם לחוב באחריות משפטית בגין פריצות אבטחה, הפרות פרטיות והפרות של זכויות קניין רוחני במידע. שנית, עריכת ביקורת מבוססת משתמשים כזו כרוכה במאמץ ניכר ועלויות גבוהות מאוד ולכן אינה זמינה במידה מספקת. שלישית, בכל הנוגע לביקורת יזומה על ידי משתמשים, קיים קושי ניכר של תיאום אפקטיבי ושיתוף פעולה בקרב מספר רב של משתמשים. לצורך התמודדות עם קשיים אלה ועידוד ביקורת עצמאית מבוססת-משתמשים, מציע ד"ר הכהן מספר פתרונות. באשר לחשש מחבויות משפטיות, מציע ד"ר הכהן עיגון חקיקתי של נמל מבטחים לגופים שלישיים שמבצעים ביקורת אלגוריתמית בסיוע משתמשים על מנת לפטור אותם מחבות משפטית. לצורך התמודדות עם העלויות הגבוהות, מציע הכהן להעניק לגופים המבקרים סבסוד ממשלתי, או לממן ביקורת עצמאית על ידי גופים בחסות המדינה, תוך חיוב המשתמשים בשיתוף מידע עם אותם גופים. לבסוף, על מנת לעודד גם ביקורת יזומה של משתמשים, מציע ד"ר הכהן ליצור פלטפורמות ייעודיות לשיתוף מידע של משתמשים (auditing trusts) וליתן מענקים כספיים למשתמשים שיסייעו בבקרה במסגרת תוכניות ממשלתיות ייעודיות לנושא.