האגודה לזכויות האזרח מבקשת מבג"ץ (23.5.24) לאסור על המשטרה לעכב נוסעים בנמל התעופה בן-גוריון ולערוך על גופם חיפושים לאיתור סמים, בהתבסס על מערכת הבינה המלאכותית שהיא מפעילה בנמל. לדברי האגודה, זוהי הפעם הראשונה בה נדרש בית המשפט העליון לשימוש המשטרתי במערכת AI בעת קבלת החלטות רגישות בנוגע להפעלת סמכותה.
קיומה של המערכת נחשף בנובמבר 2022 בידי תומר גנון בעיתון כלכליסט. הוא גילה, כי המערכת מבצעת ניתוח של נתוני עתק המוזנים אליה ממאגרים שונים, ומחליטה על הכללת שמו של אדם ברשימה של מיועדים לעיכוב וחיפוש סמים על גופו ובכליו. האגודה אומרת שהמשטרה סירבה למסור פרטים נוספים, כולל בדיון בכנסת, אם כי אלו צפו בהליכים שונים שהתנהלו מאז הפרסום.
המידע הקיים המועט מעלה, ממשיכה האגודה, כי "המערכת מחפשת התאמה בין פרופיל אישי של נוסעים הנכנסים לישראל לבין פרופיל סטטיסטי שעשוי לנבא מעורבות בבלדרות סמים, שנבנה על-ידי איתור קשרים בנתונים רבים שמוזנים במערכת, לרבות, דפוסי בלדרות מהעבר וכן 'מאגרי מידע משטרתיים'. ניתן להסיק כי בין הפרמטרים האישיים ניתן למצוא רישום פלילי ישן. אם המערכת מזהה התאמה היא תכליל את הנוסע כמועמד לעיכוב וחיפוש עם שובו לארץ".
האגודה טוענת, כי מפעיל המערכת אינו יכול להבין ולהסביר את ההחלטה המבוססת על AI. "אימוץ ה'המלצה' של המערכת לצורך מימוש סמכות מעצר וחיפוש מנוגד לחובה להפעיל סמכות על בסיס שיקול דעת אנושי, ומנוגד לחובה לנמק החלטות שיטור, דוגמת עיכוב וחיפוש. במילים אחרות - עבור השוטר ועבור האזרח ההחלטה היא שרירותית.
"מערכות שיטור המסתמכות על
בינה מלאכותית גם ניזונות ממאגרי נתונים עצומים, וקיים חשש ממשי, שכבר התממש במערכות דומות ברחבי העולם, שניבוי הסתברות גבוהה לפשיעה יתבסס על מעקבים ופגיעה בפרטיות, או על נתונים מוטים, או ינציח הטיות סטטיסטיות, או שיכלול מידע שאסור לשוטר לשקול בעת קבלת החלטות (לרבות profiling [קביעות על בסיס השתייכות לקבוצה מסוימת]) או שכל אלו גם יחד. כלומר - מדובר במערכות שמייצרות סיכון גבוה לזכויות האדם ולאינטרסים חיוניים שונים". העתירה הוגשה באמצעות עוה"ד גיל גן-מור ואן סוצ'יו.
