התמונות שלכם, האם הן באמת שלכם?

לאחרונה (מרץ 2023) התברר שהתמונות שאנחנו מצלמים הן לא באמת התמונות שצילמנו.

משתמש ברדיט הוכיח שתמונות שהוא צילם את הירח (פחות או יותר) "נערכו" ו"הותאמו" על ידי הבינה המלאכותית של תוכנת המצלמה של סמסונג. מסתבר שהתוכנה הוסיפה רכיבים שלא היו בתמונות שצולמו בפועל כדי ליצור תמונה מרשימה בהרבה, למשל מבחינת הזום.

כן כן. התברר שתוכנת הבינה המלאכותית של סמסונג (והיו טענות דומות גם כלפי וואווי) "מתקנת" ועושה אופטימיזציה לצילומים שצילמנו. עד כדי כך מתקנת, כך שהיא מוחקת ומוסיפה רכיבים מהצילום, כאלו שהיו או לא היו בפועל, במציאות.

כלומר, הבינה המלאכותית יודעת למשל לזהות שהיא רואה שמיים ולתת להם צבע מרשים יותר כך שהתמונה שצילמנו נראית כחולה ומרשימה בהרבה. היא גם יודעת לזהות שצילמנו ירח ולהוסיף לו רכיבים שלא נמצאים בצילום בפועל. במקרה שתארתי קודם, המשתמש צילם תמונת ירח רחוקה ומטושטשת, ועדיין קיבל מהמכשיר שלו תמונה מפורטת בהרבה ממה שצולם.

המסקנה: הבינה המלאכותית "התאמנה" בעבר על תמונות ירח כך שהיא ידעה להבין שמדובר בירח וגם "לחזק" את האימג' שנוצר.

ואיך אנחנו יודעים ש"השלמת הפרטים" הזו מתבצעת רק בתמונות ירח?

אולי יש תמונות רבות אחרות שהבינה מלאכותית מוסיפה להם רכיבים ואנחנו בכלל לא יודעים?

בקרוב, מי יוכל להבחין בין המציאות להמצאה של הבינה המלאכותית?

זו פרשה שנוגעת בדיוק במקומות שמטרידים את עולם המשפט בימים אלו, ובלא מעט תחומים. למשל:

1. בדיני ראיות. מה זו תמונה "אמיתית" ונכונה? איך אפשר לסמוך על אמצעי תיעוד כמו תמונות ווידאו? היום כבר אי אפשר לומר "המצלמה לא משקרת". מסתבר שהמצלמה – משקרת. וכה גם דיני הראיות חייבים לעבור התאמה משמעותית לעולם המודרני.
2. ומה בדבר זכויות היוצרים. איך משפיעה עריכת התמונה בידי התוכנה על הזכויות? האם המצלם והמכשיר שלו (או סמסונג) יוצרים במשותף? האם אפשר להעזר בשינויים שהבינה המלאכותית יוצרת כדי להתחמק מטענת העתקה? ואולי הטכנולוגיה תאפשר לנו לעקוף את דיני זכויות היוצרים בכלל ולא להתייחס אליהם?

השאלות האלו ואחרות הן רק תחילת הדרך, ואם לא נשאל את עצמנו אותן ונמצא להן תשובה היום, מחר יהיה הרבה יותר קשה.

קרדיט: image by wirestock on freepik