מחקר של חוקרים מאוניברסיטת ציריך על קהילה ברדיט השתבש מאוד, והחברים בקהילה לא אהבו את זה בכלל

במשך ארבעה חודשים מאות תגובות בסאברדיט /r/changemyview קיבלו דירוג גבוה יותר מהממוצע. איש לא חשד במשהו, וכנראה אף אחד לא שם לב (בכל זאת, יש שם כ-4 מיליון חברים והמון דיונים). ספוילר: אלה היו תגובות שנוצרו על ידי AI, אבל לא סתם של מגיבים רנדומליים שבאו להטריל. 

המודים של הקבוצה כתבו בחודש שעבר שהכל היה חלק מניסוי (לא מאושר) של חוקרים מאוניברסיטת ציריך והסבירו שמטרתו הייתה "איך אפשר להשתמש ב-AI כדי לשנות השקפת עולם". המודים חשפו את העניין לאחר שהחוקרים התוודו בפניהם, והדגישו שלא פנו אליהם מראש - אילו היו פונים, המודים היו מסרבים לניסוי.

לפי האטלנטיק, שדיווח על הסיפור, התגובות עסקו במגוון נושאים ובהם של מי האחריות לתוקפנות של פיטבולים, האם מגורים עם ההורים הם פתרון למשבר הדיור, האם תוכניות DEI מועדות לכישלון, והאם יש יסוד לתאוריה שלפיה היה "פיצוץ מבוקר" ב-11 בספטמבר. החוקרים גם פתחו יוזרים שהתחזו ליועץ טראומה ולקורבן פגיעה, לא אפרט איזו.

המודים גינו את האירוע ואני איתם. מבלי להיכנס לאתיקה האקדמית, להיכנס לקהילות באינטרנט שיש בהן חוקים ברורים ולעשות מה שבא לך - זה big no no. אבל במקרה הזה, זה הגיע לקיצון מדאיג. המודים פרסמו דרך ליצור קשר עם החוקרים דרך יוזר אנונימי ואחד כתב לקולגה שלו שהם מקבלים איומים במוות.

כשהחוקרים פנו למודים של הסאברדיט וגילו להם על הניסוי הם התנצלו אבל גם כתבו "לאור החשיבות החברתית הגבוהה של נושא זה, היה חיוני לערוך מחקר מסוג זה, גם אם הדבר היה כרוך בהפרת הכללים".

מאז הפרסום החוקרים התנצלו שוב בפני המודים ובפני הקהילה. הם אמרו שהם יודעים שהאמון לא יחזור בין לילה, אבל הם מקווים שזה יהיה צעד ראשון ושהם יוכלו לכפר על הטעות. לדברי החוקרים, בעוד המחקר והדאטה שנאסף ממנו יגנזו, הם הציעו לעבוד יחד עם המודים כדי למנוע מהודעות מבוססות ai להתפרסם בעתיד. 

המודים פרסמו את ההתנצלות בסאברדיט והוסיפו שהם עדיין לומדים את ההשלכות של האירוע, מסרבים להצעה של החוקרים, ועובדים עם קבוצות אחרות כדי למנוע חדירה של בוטים, תוכן לא אותנטי, ו-AI זדוני לקהילה.

לרלרת