אחרי 86 מיליון חשבונות מזויפים: טיקטוק נגד ספאם בינה מלאכותית בנושאים רגישים

טיקטוק מכריזה (12.7.26) על שורת צעדים חדשים נגד חשבונות המפיצים ספאם שנוצר באמצעות בינה מלאכותית, בדגש על תחומים שבהם לתוכן מטעה עשויה להיות השפעה ציבורית רחבה: פוליטיקה, אקטואליה, ייעוץ פיננסי ותוכן רפואי. החברה הודיעה כי בשבועות הקרובים תחל לבחון מערכות זיהוי משופרות, שיתמקדו באיתור חשבונות המייצרים ומפיצים תוכן כזה בהיקפים גדולים.

על-פי הודעת החברה, המהלך נועד להתמודד עם שימוש הולך וגובר בכלי בינה מלאכותית לייצור המוני של תוכן שנראה אותנטי, אך בפועל דוחק החוצה יוצרים אמיתיים ועלול לפגוע באמון הציבור. בטיקטוק מדגישים כי ספאם נאסר בפלטפורמה גם בעבר, וכי הכלים החדשים נועדו לשפר את יכולת האיתור וההסרה שלו.

86 מיליון חשבונות מזויפים ברבעון

הנתון המרכזי שמציגה טיקטוק ממחיש את היקף הבעיה: ברבעון הראשון של 2026 הסירה החברה יותר מ-86 מיליון חשבונות מזויפים. לצד זאת, טיקטוק מדווחת כי עד כה תייגה יותר מ-3 מיליארד סרטונים כתוכן שנוצר באמצעות בינה מלאכותית, באמצעות שילוב של תקן Content Credentials, כלי תיוג ליוצרים וטכנולוגיית סימון מים בלתי נראה.

במקביל, החברה מצטרפת לוועדה המנהלת של ארגון C2PA, המקדם תקנים לזיהוי מקורו של תוכן דיגיטלי ולשקיפות בנוגע לשימוש בבינה מלאכותית. טיקטוק מציינת כי הייתה פלטפורמת הווידאו הראשונה שהטמיעה את הטכנולוגיה לפני כשנתיים, וכעת בכוונתה לסייע בקידום אימוצה הרחב בתעשיה.

לא רק הסרה - גם חינוך משתמשים

לצד האכיפה הטכנולוגית, טיקטוק מרחיבה את ההשקעה באוריינות בינה מלאכותית. החברה חברה לארגון NAMLE ולמומחה הנרי אג'דר לצורך יצירת מדריך חדש לשימוש אחראי בכלי בינה מלאכותית. נוסף על כך, היא ממשיכה לקדם תוכנית הסברה בנושא שימוש בטוח בטכנולוגיה, שלטענתה צברה מאז השקתה בנובמבר 2025 יותר מ-200 מיליון צפיות.

טיקטוק מוסיפה כי תשקיע גם בפיתוח כלים יצירתיים למשתמשים, ובהם "ניהול נושאים" - אפשרות המעניקה למשתמשים שליטה רחבה יותר על כמות התוכן שנוצר באמצעות בינה מלאכותית שהם מעוניינים לראות. בכך מנסה החברה לאזן בין עידוד יצירה בטכנולוגיות חדשות לבין צמצום השימוש בהן להפצת תוכן מטעה או מציף.