סופת אש סביב Grok: כשהצ'אט שמבטיח "פחות צנזורה" פוגש את הצד האפל של הרשת
בימים האחרונים מתפתחת ברשת סערה חריגה סביב Grok, מודל הבינה המלאכותית של חברת xAI שבבעלות אילון מאסק. הסיבה הפעם לא קשורה לוויכוח הרגיל על הטיה פוליטית, טעויות עובדתיות או הומור בוטה, אלא לטענות קשות בהרבה: גולשים מדווחים כי המודל שימש ליצירת תמונות מיניות ללא הסכמה על בסיס תמונות של משתמשות שהועלו ל-X, ובחלק מהמקרים נטען כי נעשו גם ניסיונות ליצור תוכן מיני מתמונות של ילדים.
הטענות לא נשארו בשוליים. פוסטים זועמים מציפים את X ומתארים מצב שבו משתמשים פונים ל-Grok ומבקשים "להקטין" את לבושן של נשים שמופיעות בתמונות ציבוריות, להציג אותן בעירום או בסיטואציות מיניות, ולטענת המפרסמים, המודל נענה לבקשות ומייצר תמונות שעוברות במהירות בין חשבונות וקהילות.
מה זה Grok ולמה הוא שונה מהמתחרים
למי שלא עקב: Grok הוא מודל AI שפיתחה xAI, והוא הוצג כמתחרה לשורת צ'אטים ומודלים פופולריים בתחום. לפי המידע שפורסם, אחד המאפיינים שמבדילים אותו הוא גישה פרובוקטיבית יותר, ובגרסאות מתקדמות כמו Grok-2 גם יכולות יצירת תמונות עם פחות מגבלות צנזורה מחמירות. השילוב הזה, של כלי שמסוגל לייצר דימויים במהירות יחד עם מדיניות שמצטיירת כמשוחררת יותר, הוא גם מה שמסביר מדוע המוצר הזה נגרר שוב ושוב לוויכוחים ציבוריים.
במילים אחרות, Grok לא נכנס לשוק כמוצר שמנסה "להיעלם ברקע". הוא ממותג ככלי שמרשה לעצמו ללכת רחוק. אבל בדיוק כאן מתחדד הקו הדק בין חופש יצירתי לבין שימושים שמייצרים נזק ממשי לאנשים אמיתיים, במיוחד כשמדובר בדימויים מיניים שמבוססים על תמונות של נשים שלא ביקשו להיות חלק מניסוי טכנולוגי.
איך זה נראה בשטח: תמונה רגילה הופכת לתוכן מיני
על פי הדיווחים, משתמשים העלו ל-Grok תמונות מתוך X וביקשו לבצע בהן מניפולציות מפורשות: להסיר שכבות לבוש, להלביש נשים בהלבשה תחתונה או להציג אותן בעירום ובאופן מיני. הטענה המרכזית היא שהמודל לא רק מאפשר זאת, אלא מספק תוצרים שממשיכים להסתובב ברשת, לעתים בצורה שמקשה על הנפגעות לעצור את ההפצה או להבין מאיפה זה התחיל.
ברגע שהסף הטכנולוגי יורד, כלומר מספיק צילום קיים ובקשה קצרה, הבעיה כבר לא נשארת תיאורטית. היא הופכת למכונת שכפול שמייצרת "תמונות חדשות" שמרגישות אמיתיות, גם אם הן מעוותות, ומעמיסה על מי שמופיעות בהן נטל כבד של השפלה, הטרדה ופגיעה במוניטין.
הטענה החמורה ביותר: גם ילדים נכנסו לתמונה
כאן הסיפור מקבל תפנית מטרידה במיוחד. לפי הפרסום, חלק מהבקשות ליצירת תוכן מיני לא התמקדו רק בנשים בוגרות אלא גם בתמונות של ילדים. עצם העלאת האפשרות הזו לדיון פומבי, גם בלי לפרט, מספיקה כדי להבהיר עד כמה כלי יצירת תמונות ללא מגבלות קשיחות עלול להידרדר במהירות לטריטוריה פלילית ומסוכנת.
באותו הקשר צוין כי חברת ניתוח תוכן בינה מלאכותית Copyleaks העריכה שמדובר בקצב גבוה במיוחד של יצירת תמונות מיניות ללא הסכמה, עד כדי תמונה אחת בדקה. גם אם קשה לדעת מבחוץ כיצד נמדד המספר הזה ומה בדיוק הוא כולל, עצם הופעתו בדיון הציבורי משקפת תחושת חוסר שליטה: לא אירוע נקודתי, אלא תופעה שמרגישה כמו זרם.
הזעם מופנה גם למאסק, ובמקרה הזה הוא לא רק סמל
כמעט בלתי אפשרי להפריד בין Grok לבין הבעלים של xAI. מאסק הוא לא רק משקיע מאחורי הקלעים, הוא דמות שמזוהה ישירות עם בחירות מוצריות ועם הטון של הפלטפורמה X. בהתאם, הביקורת ברשת מופנית כלפיו באופן אישי וכלפי מי שמפתחים את Grok. באחד הציטוטים שהופצו נכתב כי Grok "מכין פורנו של ילדים ושם נשים בהלבשה תחתונה ללא ההסכמה שלהם", ניסוח שמזקק את שתי הטענות הקשות ביותר לתוך משפט אחד שנועד לטלטל, ואכן מטלטל.
הדינמיקה כאן מוכרת: כשמודל AI מאפשר משהו, גם אם לא הוגדר כך כמטרה, הציבור מחפש מי יישא באחריות. האם זו החלטה הנדסית, תוצאה של מדיניות "פתוחה", או פשוט חוסר מוכנות להתמודד עם שימוש לרעה שמגיע מהר יותר מכל תהליך פנימי?
המתח הבלתי פתור: בין "פחות צנזורה" לבין אחריות בסיסית
הסערה סביב Grok לא מתרחשת בחלל ריק. היא יושבת על הוויכוח הרחב יותר על מודלי יצירת תמונות: עד כמה צריך להגביל אותם, ומה המחיר של מגבלות כאלה. מצד אחד, יש מי שטוענים שכל צנזורה היא מדרון חלקלק. מצד שני, כשמדובר בתמונות מיניות ללא הסכמה, ובוודאי כשעולה חשד לתכנים הקשורים בילדים, זה כבר לא דיון פילוסופי על חופש ביטוי, אלא שאלה של נזק מידי.
ובכל זאת, גם אחרי שהכעס מתפזר, נשארת שאלה אחת שמסרבת להיעלם: אם כלי כמו Grok מסוגל לייצר תוצרים כאלה בקנה מידה שמרגיש יומיומי, מה זה אומר על השלב הבא של מודלי תמונה, ועל היכולת של פלטפורמות כמו X להגן על האנשים שמעלים אליהן את התמונות הכי רגילות של חייהם?
