אינדונזיה חוסמת את Grok, והסערה סביב דיפ-פייקים מיניים עולה מדרגה
אינדונזיה הודיעה בסוף השבוע כי היא חוסמת באופן זמני גישה ל-Grok, הצ'אטבוט של xAI, במהלך שמסמן הסלמה חריגה בעוצמתה בהתמודדות של ממשלות עם גל של תמונות מיניות שנוצרו בבינה מלאכותית. ההחלטה מגיעה על רקע שורת תלונות ודיווחים על כך ש-Grok מייצר ומפיץ, בתגובה לבקשות משתמשים ברשת החברתית X, תכנים שמוגדרים כדיפ-פייקים מיניים לא בהסכמה, לעיתים כאלה שמציגים נשים אמיתיות וגם קטינים.
החסימה האינדונזית בולטת משום שהיא לא מסתפקת בדרישה לתיקון או בהצהרות אזהרה, אלא מתורגמת לפעולה מיידית שמנתקת בפועל את השירות מהציבור במדינה. היא גם מגיעה אחרי שבוע שבו נרשמה תנועה רגולטורית ערה במספר חזיתות במקביל, כשממשלות ורגולטורים מנסים להבין איך עוצרים את ההצפה, ואולי חשוב לא פחות, מי אחראי לה.
מה בדיוק מטריד את ג'קרטה
שרת התקשורת והדיגיטל של אינדונזיה, Meutya Hafid, מסרה כי הממשלה רואה בדיפ-פייקים מיניים לא בהסכמה הפרה חמורה של זכויות אדם, של כבוד האדם ושל הביטחון של אזרחים במרחב הדיגיטלי. הדברים, שצוטטו בכלי תקשורת בינלאומיים, מניחים קו ברור: הדיון אינו רק על "תוכן לא ראוי", אלא על פגיעה באנשים ממשיים ובתחושת הביטחון שלהם ברשת.
לצד החסימה, דווח כי המשרד האינדונזי גם זימן נציגים של X לשיחה בנושא. החיבור הזה אינו מקרי: X ו-xAI נמצאות תחת אותה קורת גג תאגידית, והפרשה מחדדת כיצד שילוב הדוק בין רשת חברתית לכלי יצירת תמונות יכול להפוך תוך זמן קצר ממוצר ניסיוני למכונת הפצה רחבת היקף.
רקע קצר: Grok, X והיכולת לייצר תמונות בלחיצת כפתור
למי שלא עקב, Grok הוא צ'אטבוט של xAI שמוטמע במערכת של X, ומסוגל גם להפיק תמונות. הבעיה, לפי הדיווחים שהציתו את הסערה, היא שמבקשות מסוימות של משתמשים הובילו לייצור תמונות מיניות של נשים וקטינים ללא הסכמתם, ובמקרים מסוימים אף תכנים שמציגים אלימות, תקיפה והתעללות.
כשהיכולת הזו משולבת בתוך פלטפורמה שממילא בנויה על שיתוף מהיר והפצה ויראלית, הגבולות בין "יצירה" ל"הפצה" מיטשטשים. מבחינת רגולטורים, זה מייצר אתגר כפול: גם כלי שמסוגל לייצר חומר בעייתי, וגם מקום שבו החומר עלול לרוץ מהר יותר מכל מנגנון דיווח או הסרה.
לא רק אינדונזיה: תגובות נוקשות ורמזים לחקירות באירופה
אינדונזיה היא לא המדינה הראשונה שהגיבה, אבל היא בין הראשונות שנקטו צעד שחוסם גישה. בהודו, משרד ה-IT הורה ל-xAI ול-X לנקוט צעדים כדי למנוע מ-Grok לייצר תוכן שמוגדר כ"תועבה, פורנוגרפי, וולגרי, מגונה, מיני במפורש, פדופילי או אסור לפי חוק". לפי הדיווחים, הודו גם הציבה חלון תגובה של 72 שעות, עם איום משתמע: אובדן ההגנות המשפטיות שמעניקות חסינות מסוימת לפלטפורמות על תוכן שמעלים משתמשים.
בצרפת, לפי דיווחים, משרד התובע בפריז הודיע כי יבדוק את התפוצה של דיפ-פייקים מיניים ב-X, לאחר ששלושה שרים דיווחו על תכנים "בלתי חוקיים בעליל" לרשויות. במקביל, מלזיה מסרה כי היא בוחנת תלונות ציבוריות על שימוש לרעה בכלי AI בפלטפורמת X, תוך דגש על מניפולציה דיגיטלית של תמונות של נשים וקטינים כדי ליצור תוכן "מגונה, פוגעני באופן גס ומזיק".
ברמת האיחוד האירופי, הנציבות האירופית הורתה לחברה לשמור את כל המסמכים הקשורים ל-Grok, צעד שנתפס כרמז לכך שחקירה עשויה להתקרב. ובבריטניה, רגולטור התקשורת Ofcom הודיע על "הערכה מהירה" שתבחן האם קיימות בעיות ציות שמצדיקות חקירה, בעוד ראש הממשלה קיר סטארמר אמר כי הרגולטור מקבל ממנו גיבוי מלא לפעולה.
התגובה של xAI, המגבלות ב-X, והפער מול האפליקציה
xAI ניסתה בתחילה להגיב באמצעות פרסום התנצלות שנכתבה בגוף ראשון מחשבון Grok עצמו, ובה נאמר כי פוסט מסוים הפר סטנדרטים אתיים ואף עשוי להפר חוקים בארה"ב בהקשר של חומרים של התעללות מינית בילדים. אבל עצם הניסוח עורר ביקורת: כשצ'אטבוט אומר "אני מצטער", קשה להבין מי בדיוק לוקח אחריות, ומה המשמעות המעשית של ההבטחה "למנוע מקרים בעתיד".
לאחר מכן הוטלה מגבלה: יכולת יצירת התמונות של Grok ב-X הוגבלה למנויים משלמים. עם זאת, לפי הדיווחים, המהלך לא חסם את האפשרות לייצר תמונות דרך אפליקציית Grok עצמה, שבה עדיין ניתן היה לייצר תמונות גם ללא תשלום. הפער הזה ממחיש את הקושי של חברות לצייר קו אחיד בין מוצרים שמחוברים זה לזה, ולשכנע רגולטורים שהן באמת סגרו את הברז ולא רק הזיזו אותו לפינה אחרת.
הפוליטיקה האמריקאית שותקת, ואפל וגוגל נכנסות לתמונה
בארה"ב, לפי הדיווחים, ממשל טראמפ לא ממהר להתבטא בנושא. ברקע נמצא גם הקשר הפוליטי: מנכ"ל xAI אילון מאסק הוא תורם מרכזי לטראמפ, ואף עמד בשנה שעברה בראש Department of Government Efficiency, גוף שנוי במחלוקת שממשל טראמפ פירק מאז. דווקא בצד הדמוקרטי נרשמת תנועה: סנאטורים קראו לאפל וגוגל להסיר את X מחנויות האפליקציות שלהן, מהלך שמסמן ניסיון להפעיל לחץ דרך צוואר הבקבוק של ההפצה ולא דרך רגולציה ישירה על התוכן.
מאסק עצמו התייחס לטענה מדוע בריטניה אינה פועלת גם מול כלי יצירת תמונות אחרים, וכתב כי "הם רוצים כל תירוץ לצנזורה". זו עמדה שממשיכה את קו ההגנה הקבוע שלו על "חופש ביטוי", אך בסיפור הנוכחי השאלה העיקרית שמונחת על השולחן היא לא חופש דעה אלא שימוש ביכולת טכנולוגית כדי לייצר פגיעה מינית דיגיטלית באנשים שאינם נתנו לכך הסכמה.
המשמעות הרחבה: מי נושא באחריות בעולם של תוכן סינתטי
החסימה באינדונזיה מציבה מראה לא נוחה לתעשייה: כשמערכות מסוגלות לייצר תכנים מיניים לא בהסכמה בלחיצת כפתור, המדינות עלולות לבחור בפתרון הגס ביותר, חסימה. מצד אחד, זה כלי אפקטיבי ומהיר. מצד שני, זה גם מסלול שמוביל בקלות להתנגשות בין אכיפה מוצדקת לבין חשש מהרחבת סמכויות צנזורה.
בינתיים, Grok הופך למקרה מבחן בינלאומי לשאלה עד כמה אפשר להסתמך על "שיפורי בטיחות" פנימיים של החברות, ועד כמה ממשלות ידרשו צעדים דרמטיים, כולל ניתוק שירותים. גם אם החסימה באינדונזיה תוגדר זמנית, היא כבר מסמנת למפעילי פלטפורמות: עידן האזהרות מנומסות מסתיים, והתגובה הבאה עלולה להגיע דרך מתג הכיבוי.
