בימים האחרונים, שוטף את האינטרנט טרנד חדש, במסגרתו פניהם של מפורסמים וסתם "עמך" עוברים עיבוד באמצעות האפליקצייה.
במקרים רבים, מדובר בשימוש שמיועד להנאה ופאן. אולם, כשמעמיקים קצת יותר במנגנון שעליה האפליקצייה בנויה, מקבלים תמונה מעט מטרידה:
האפליקצייה מסוגלת לשנות את הפנים שלכם באמצעות שימוש בטכנולוגיה הקרויה "deep learning" (למידה עמוקה). מדובר בטכניקה מעולם הבינה המלאכותית, שמאפשרת למחשבים ללמוד לשפר את ביצועיהם במשימות שונות לאורך זמן. זאת, באמצעות לימוד של דפוסים החוזרים על עצמם.
היכולת הזו רלוונטית במיוחד לאפליקציות מסוגה של FaceApp, מאחר ולמידה עמוקה מאפשרת לאפליקצייה לבצע את השינויים, על סמך לימוד של המאפיינים החיצוניים בפנים- גבות, עצמות לחיים, מבנה האף ועוד.
זוהי בדיוק אותה טכנולוגיה, שמשמשת ליצירת סרטונים מסוג Deepfake (דיפ פייק)-
אם, נניח, רוצים ליצור סרטון מזויף שבו רואים את נתניהו מתבטא באופן שמזיק לו מבחינה פוליטית, מה שצריך לעשות, זה למעשה "להרכיב" דמות שדומה לנתניהו ושנשמעת בדיוק כמוהו. ההרכבה הזו נעשית באמצעות למידה עמוקה, שמשתמשת בהרבה מאוד תמונות של נתניהו. מהן, המכונה מלקטת את מאפייני הפנים והגוף שלו ויוצרת דמות חדשה לחלוטין, שנראית בדיוק כמוהו.
המפתח ליצירת תמונות וסרטונים מוצלחים מהסוג הזה היא שימוש בידע- ככל שלמידת המכונה מסתמכת על יותר ידע ויזואלי, מהם היא מחלצת את המאפיינים הקטנים, כך ניתן לצפות לביצועים טובים ומדוייקים יותר.
כאן מתחילה הבעיה האמיתית ב-FaceApp, לדברי מומחי אבטחה:
פאביו אסוליני, אנליסט בכיר בחברת אבטחת הסייבר קספרסקי, הזהיר שהמידע שנאסף באפליקציות מהסוג הזה עלול לעבור לידיהם של גורמים לא תמימים, שיכולים להשתמש בידע הזה כדי ליצור deepfake. המידע הזה יכול להימכר או להיגנב על ידי האקרים.
אז מה עושים? למידה עמוקה, כמו כמעט כל דבר בחיים, יכול לשמש למטרות טובות ולמטרות פחות טובות. לא הייתי ממליץ להימנע משימוש באפליקצייה, כי אין רע בלנצל את הטכנולוגיה כדי להשתעשע. יחד עם זאת, לפני שמשתמשים בטכנולוגיה מסוג הזה, מומלץ להיות מודעים להשלכות ולא רק להתעסק בשאלה, עד כמה תמונה שתצא לי תהיה מוצלחת.
ולסיום- חידה:
לפניכם שתי תמונות של אובמה. אחת אמיתית ואחת מזוייפת, מסוג Deepfake.
איזו תמונה לדעתכם היא האמיתית?
התשובה- בסרטון הזה.
אופיר בראל הוא חוקר בסדנת יובל נאמן באוניברסיטת תל אביב ומרצה על פייק ניוז לארגונים ולקהל הרחב.