החששות העיקריים מפני הבינה המלאכותית (IA) הם שהרובוטים ישתלטו על מפעיליהם ושיגרמו לפיטורים המוניים. נורמן רייט טוען ב-Foreign Affairs שקיים חשש נוסף ומשמעותי: IA תאפשר למשטרים סמכותניים להדק את הפיקוח על אזרחיהם ולהשיג צמיחה כלכלית בלא צורך לבחור בין דמוקרטיה ושגשוג ודמוקרטיה לבין דיקטטורה ועוני.

כמה מדינות כבר פוסעות בכיוון זה. סין החלה ליצור מדינה סמכותנית דיגיטלית באמצעות שימוש בכלי מעקב ומכשירים בעלי יכולת למידה, תוך יצירת מה שהיא מכנה "מערכת אשראי חברתית". מדינות בעלות הלך רוח דומה רוכשות או מעתיקות את השיטות הסיניות. לטענת רייט, אם המאה ה-20 הוגדרה על-ידי המאבק בין הדמוקרטיות לבין המשטרים הפשיסטיים והקומוניסטיים – במאה ה-21 זהו המאבק בין הדמוקרטיות לבין המדינות הסמכותניות הדיגיטליות.

טכנולוגיות חדשות יאפשרו שליטה במחירים סבירים. ממשלות יוכלו לבחור אלו נושאים ואלו התנהגויות יצנזרו: מה שנחוץ לצמיחה הכלכלית יעבור בצורה חופשית, ומה שעלול לסכן את המשטר ייחסם. מה שמכונה "חומת האש הגדולה" של סין מספק דוגמה ראשונית ליכולת זו. AI ו"ביג דאטה" יאפשרו להדק את השליטה על מתנגדי המשטר.

הם יזכירו את יירוט הלקוחות בידי אמזון או גוגל, אבל יהיו הרבה יותר יעילים, משום שממשלות אלו ישתמשו במידע בדרכים האסורות במדינות דמוקרטיות. הן יוכלו לאסוף מידע ממצלמות, דוחות מס, רישומים רפואיים, חשבונות בנק ועוד ועוד. עצם קיומן של יכולות אלו יביא את התושבים להפעיל צנזורה עצמית ולהיזהר בכל מילה היוצאת מפיהם, ובסופו של דבר יביאו אותם גם לשינוי חשיבה והתנהגות. מעבר לכך, AI יכולה לסייע לממשלה לכוון את הכלכלה ולהגיב במהירות לשינויים המתחוללים בה.

לא יחשבו שצריך ליברליזציה

לדברי רייט, אין ערובה לכך שהמודל של סמכותנות דיגיטלית יעבוד לאורך זמן, אך ייתכן שלא יהיה בכך צורך. המדינות שיפעילו אותו יכולות להשתמש בו מלכתחילה לזמן מוגבל, שיהיה בו די כדי להצית תחרות אידיאולוגית חדשה. אם ממשלות יתחילו לראות את הסמכותנות הדיגיטלית כחלופה לדמוקרטיה הליברלית, הן לא יחשבו שיש צורך לבצע ליברליזציה. אפילו אם המודל ייכשל לבסוף, הנסיונות ליישם אותו יימשכו שנים – על כל המשתמע מכך.

בניית המערכת לא תהיה משימה קלה. פרויקטים גדולים בתחום טכנולוגיית המידע ידועים לשמצה בקשייהם: הם דורשים הרבה מאוד תיאום, ניסיון ומימון. קחו לדוגמה את "חומת האש הגדולה" של סין, לה יש ניסיון ומומחיות רבים בתחום טכנולוגיית המידע ואשר משקיעה עשרות מיליארדי דולרים בפרויקט. היא מניחה את היסודות לסמכותנות הדיגיטלית, לצד צעדים גלויים שכבר קיימים בתחום המעקב אחרי תושביה. תוכנית פיתוח ה-AI שלה לשנת 2017 אומרת במפורש, שאחת ממטרותיה היא ליצור "אפשרויות חדשות לבנייה חברתית" – קוד ברור לפיקוח הדוק יותר על החברה.

הסמכותנות הדיגיטלית אינה מוגבלת לסין. גישת "חומת האש הגדולה" כלפי האינטרנט כבר הועתקה בידי וייטנאם ותאילנד. מומחים סינים סיפקו תמיכה לצנזורים הממשלתיים בסרי-לנקה וסיפקו ציוד מעקב וצנזורה לאתיופיה, אירן, רוסיה, זמביה, מלזיה וזימבאבווה.

סין ורוסיה גם נאבקות נגד התפיסה האמריקנית של האינטרנט כרשת עולמית, חופשית וחסרת גבולות. סין מנצלת את כוחה הדיפלומטי והכלכלי כדי להשפיע על הסטנדרטים הטכנולוגיים הבינלאומיים וכדי להטמיע את הרעיון לפיו ממשלות צריכות לשלוט ברשת כך שיגבילו בצורה משמעותית את חופש הפרט. אחרי מאבק קשה על ניהול הפורום הבינלאומי החדש שיקבע את קני המידה לפעילות ה-AI, הוסכם שארה"ב תעמוד בראש המזכירות שתנחה את ההחלטות ואילו בכיר סיני יהיה יו"ר הוועדה.

מכאן עובר רייט לשאלה המתבקשת: כיצד צריכות הדמוקרטיות להתמודד עם האיום החדש. הוא מחלק את התשובה לשניים: ההתמודדות הפנימית וההתמודדות החיצונית. במישור הפנימי, יש לנהל את האתגרים שמציבות הטכנולוגיות החדשות – וזה לא שונה בהרבה מאשר הטיפול בטכנולוגיות הקיימות: היעד צריך להיות למנוע מן הממשלות לנצל אותן לרעה ולפגוע בזכויות האזרח. יש לזכור, שבמערב מציבות גם חברות מסחריות סכנות דומות, אך ככלל – החברה המערבית התגברה בעבר על איומים דומים, ולכן רייט סבור שיש מקום לאופטימיות בדבר יכולתה לעשות זאת גם מול ה-AI. בסופו של דבר, הרגולטורים ימצאו את הדרך הנכונה לאסדרה.

האתגר החיצוני אף עשוי דווקא לחזק את הדמוקרטיות הליברליות, טוען רייט. הטבע התחרותי האנושי יכול להוביל אותן להגדיר את הצנזורה והמעקב שלהן-עצמן כתגובת נגד לסמכותנות הדיגיטלית. ממשלות וחברות טכנולוגיה במדינות הדמוקרטיות יצטרכו להסביר במה הן שונות ממקבילותיהן במדינות הסמכותניות.

דרכי התגובה של המערב

המערב יכול לעשות מעט מאוד כדי לשנות את התפיסות והכיוון של מדינות בעלות יכולות וביטחון עצמי כמו סין. המדינות הסמכותניות הדיגיטליות לא ייעלמו בקרוב. הדמוקרטיות הליברליות יצטרכו אסטרטגיה ברורה כדי להתמודד מולן. רייט מציע את המרכיבים הבאים:

• הגבלת המעקבים והשימוש לרעה במידע במדינות הדמוקרטיות.

• פיצול ענקי הטכנולוגיה והגברת הפיקוח עליהם.

• הבטחת עיתונות בריאה ומגוונת, למשל על-ידי מניעת הפגיעה בה מצד חברות כמו פייסבוק והענקת מימון לשידור ציבורי.

• חקיקה שתמנע מחברות הטכנולוגיה לנצל מידע כגון רשומות רפואיות.

• הגבלה משמעותית של איסוף המידע בידי חברות הטכנולוגיה על מי שבאים איתן במגע.

• הגבלה על השימוש הממשלתי במידע שבידיהן, למעט בנסיבות מיוחדות כגון מאבק בטרור.

• הענקת סיוע ליישום מערכות AI ו"ביג דאטה" במדינות שאינן דמוקרטיות-לגמרי ואינן סמכותניות-לגמרי.

• קידום ערכים בינלאומיים המכבדים הן את הפרטיות והן את ריבונותה של המדינה.

• הכנת תוכניות למתקפות נגד על ליבת השימוש ב-AI לדיכוי זכויות הפרט, תוך שימת לב לכך שלא תתפתח מלחמת סבר (סייבר) שתצא משליטה.