פייסבוק מוצאת את עצמה בכותרות בהקשרים הלא-נכונים בשבועות האחרונים: תושב תאילנדי שידר את רצח בתו את 11 החודשים ואת התאבדותו; זקן תושב קליבלנד נרצח בידי אלמונים בשידור חי. הרשת החברתית הואשמה בכך שהיא הפכה למגרש המשחקים של גזענים ופושעים ולפלפורמה לחדשות מזויפות ואף לסיפורי הבל. שני מיליארדי משתמשי פייסבוק תוהים: כיצד זה קרה? וכיצד על פייסבוק להתמודד עם הבעיה בלא לפגוע בחופש הביטוי ובזרימת המידע?
חלק מהתשובות מצויות במסמך פנימי של פייסבוק שחשף העיתון גארדיאן. המסמך קובע מה ניתן ומה לא ניתן להעלות לרשת, ואת תפקידם של מי שאמורים לפקח על תכניה. השורה התחתונה שלהם: פייסבוק מודה שהיא לא תוכל למנוע פרסום של תכנים פוגעניים ולא תוכל למנוע ממחבלים להשתמש בה. המסמכים גם מגלים, כי למרות כל הביקורת – פייסבוק עושה מעט מאוד נגד תכנים כאלו, וכי יש תחלופה רבה של המפקחים הנשחקים בין היתר בשל החשיפה הבלתי-פוסקת לאותם תכנים קשים.
העיתון אומר (יום ב', 22.5.17), כי מרק צוקרברג ניסה לשמור את פייסבוק פשוטה כפי שהייתה כאשר הקים אותה: רק לפני שלושה חודשי אמר, כי מטרת הרשת היא "לקרב אנשים ולבנות קהילה גלובלית". במסמך שחשף גארדיאן, אומרת פייסבוק שהיא רוצה לעשות זאת על-ידי "הבטחת אווירה שבה כל אחד יכול לדון בחופשיות בנושאים ולהביע את דעותיו, תוך שמירה על זכויותיהם של אחרים. כאשר מיליוני אנשים נפגשים כדי לחלוק מה שחשוב להם, דיונים ופוסטים אלו כוללים מדי פעם נושאים ותוכן שנויים במחלוקת. אנחנו מאמינים שהדו-שיח און-ליין משקף את חילופי הרעיונות והדעות שמתחוללים בחיים הפרטיים אוף-ליין בשיחות בבתים, בעבודה, בבתי קפה ובכיתות".
עד כאן, אומר העיתון – טוב ויפה. הרוב המכריע של משתמשי פייסבוק לא חולמים לנצל לרעה את הבמה שהיא מעמידה לרשותם. אבל יש יוצאי דופן ובהם מחבלים ופדופילים. ויש גם מי שמאשימים אותה בהשפעה על תוצאות הבחירות בארה"ב על-ידי הפצת חדשות מזויפות. צוקרברג חייב להתמודד עם זה – גם בשל ביקורת בתקשורת (שחלקה מונעת מסיבות מסחריות) ומצד פוליטיקאים, במיוחד בארה"ב ובאירופה, הטוענים שהמצב הנוכחי אינו יכול להימשך. הללו אינם מאמינים שפייסבוק מסוגלת לבצע בעצמה את השינוי הדרוש ושביכולתה לסגת ממדיניות השיטור העצמי, במסגרתה הגולשים מתריעים על ניצול לרעה והמפקחים מחליטים מה למחוק.
גארדיאן מצביע על חוסר אחידות, במקרה הטוב, במדיניות של פייסבוק. בשנה שעברה חסם האתר חשבונות רבים של משתמשים מאתר השמאל האוסטרלי "ניו מטילדה", לאחר שהעלה תמונה של נשים אבורג'יניות חשופות חזה. אבל העיתון הבריטי אומר כי המסמכים שבידיו מלמדים שפייסבוק אפשרה לפרסם תמונות מיניות בוטות בהרבה.
רבים סבורים, שהרשת קיבלה מספיק זמן להסדיר את עצמה, לא עשתה סאת – וכעת אחרים צריכים לעשות זאת ולפקח עליה, כמו על כל אמצעי תקשורת החשוף לתביעות דיבה ופגיעה בפרטיות. אחד הרעיונות שהועלו בבריטניה ובגרמניה הוא לקנוס את פייסבוק על תכנים המעודדים כל סוג של קיצוניות. ואילו בארה"ב נשמעו קולות רבים הדורשים מהחברה להיות שקופה יותר לגבי כללי הפיקוח שלה. פייסבוק מצידה מתעקשת שהיא חברת טכנולוגיה ולא חברת מדיה.
גארדיאן מציב את השאלה המרכזית: כיצד היא יכולה להיות פתוחה להמונים ולהיחסם בפני ניצול לרעה? ומי יקבע מהו ניצול לרעה? חלק מהבעיה של פייסבוק, סבור העיתון, נעוץ ב"אישיות התאגידית" שלה. החברה מתעקשת שהיא פתוחה, אך היא ודומותיה שומרות בחשאיות עיקשת פרטים כגון מספר העובדים האחראים להורדת תכנים פסולים ואת המדיניות לפיה הם פועלים. דוח של הפרלמנט הבריטי ציין, כי החברה מחקה תכנים פוגעניים רק לאחר לחץ תקשורתי וסערה ציבורית – תכנים כגון עריפת ראשים, פדופיליה ודקירה.
פייסבוק מצידה טוענת שהיא מגיבה לדרישות, בין השאר על-ידי הכנסת טכנולוגיות המונעות אוטומטית העלאה של תכנים כמו ניצול מיני של ילדים ופעולות טרור. עוד מסרה החברה, כי היא מפתחת בינה מלאכותית בניסיון להוריד ביתר קלות תכנים פוגעניים שכן עולים לרשת. ומעל לכל: החברה שוכרת עוד 3,000 מפקחים – אך אחד מבכיריה, סיימון מילנר, הודה שייתכן שזה לא יתן פתרון. "פייסבוק מנסה לתקן את המכונית הנמצאת בנסיעה ומאיצה את מהירותה, בלי שיש לה הכלים הדרושים" – סבור גארדיאן.
הוויכוחים לא מסתיימים כאן. תמיד יהיו מי שיטענו, שתכנים שנחסמו היו צריכים לעלות ולהפך. פייסבוק עצמה מכירה בכך שיש שטחים אפורים, וצוקרברג אומר שמדובר בעבודה מתמשכת במהלכה החברה לומדת מן הניסיון. "אנחנו חייבים למצוא דרך לעשות יותר", הצהיר.