פרוטוקול של ישיבת ועדה

הכנסת העשרים-וחמש

הכנסת



32
ועדת משנה (של ועדת המדע והטכנולוגיה) בנושא בינה מלאכותית וטכנולוגיות מתקדמות
25/12/2023


מושב שני


פרוטוקול מס' 1
מישיבת ועדת המשנה של ועדת המדע והטכנולוגיה
בנושא בינה מלאכותית וטכנולוגיות מתקדמות
יום שני, י"ג בטבת התשפ"ד (25 בדצמבר 2023), שעה 09:30

השימוש בבינה מלאכותית ליצירת מידע כוזב ותודעה שקרית הפוגעת במדינת ישראל

חברי הוועדה: אורית פרקש הכהן – היו"ר

גלית דיסטל אטבריאן
שלי טל מירון

גל אילן - מנהל אסטרטגיה, מערך ההסברה הלאומי, משרד ראש הממשלה

איתן טי - סמנכל תכנון, משרד החדשנות, המדע והטכנולוגיה

דני חורין - יועץ משפטי, משרד החדשנות, המדע והטכנולוגיה

רועי גולדשמידט - מרכז המחקר והמידע, הכנסת

שרה גרין - פרקליטה במחלקת הסייבר בפרקליטות המדינה, פרקליטות המדינה

רועי פרידמן - ראש אגף בכיר אסטרטגיה והתעצמות, מערך הסייבר הלאומי

לירון הופפלד - המחלקה המשפטית, הרשות להגנת הפרטיות

יורם יובל - פסיכיאטר, סופר, מנחה וחוקר מוח, המחלקה לנוירוביולוגיה רפואית, האוניברסיטה העברית בירושלים, נציגי אקדמיה

עמוס עזריה - ראש מסלול מדעי הנתונים ובינה מלאכותית, אוניברסיטת אריאל, נציגי אקדמיה

תהילה אלטשולר - ראש התוכנית לדמוקרטיה בעידן המידע, המכון הישראלי לדמוקרטיה

עידן רינג - סמנכ"ל קהילה וחברה, איגוד האינטרנט הישראלי

הילה היבש - יועצת משפטית ראשית, חברת מייקרוסופט ישראל

בן חקלאי - יועץ משפטי אזורי, חברת מייקרוסופט ישראל

יהודה בן יעקב - מנהל מדיניות, חברת Meta, נציגי רשתות חברתיות

ליאת גלזר - מנהלת קשרי ממשל ומדיניות ציבורית, גוגל ישראל, נציגי רשתות חברתיות

אחיה שץ - מייסד ומנכ״ל "פייק ריפורטר", חברות לניטור מידע כוזב באינטרנט

רפאל מנדלסון - מנהל שיווק, חברת סיאברה אסטרטגיה (Cyabra), חברות סטארט-אפ

גאיה הררי הייט - ראש תחום מדיניות ורגולציה, snpi-מכון מחקר ומדיניות בתחום החדשנות והטכנולוגיה, חברת סטארט-אפ ניישן סנטרל

דרור גלוברמן - עיתונאי, ערוץ 12; מומחה בתחום הטכנולוגיה, עיתונות ותקשורת

ענבל אורפז - יועצת חדשנות אסטרטגית

יורם יובל - פסיכיאטר, סופר, מנחה וחוקר מוח, המחלקה לנוירוביולוגיה רפואית, האוניברסיטה העברית בירושלים, נציגי אקדמיה

יזהר ליפשיץ

נירה לאמעי רכלבסקי

איילת חאקימיאן

הדס צנוירט



רשימת הנוכחים על תואריהם מבוססת על המידע שהוזן במערכת המוזמנים הממוחשבת. ייתכנו אי-דיוקים והשמטות.


השימוש בבינה מלאכותית ליצירת מידע כוזב ותודעה שקרית הפוגעת במדינת ישראל

בוקר טוב לכולם, אני מתכבדת לפתוח דיון אני חושבת ראשון מסוגו בנושא השימוש בבינה מלאכותית ליצירת מידע כוזב ותודעה שקרית הפוגעת במדינת ישראל עם דגש על בינה מלאכותית.

לפני כן מכבד אותנו כאן יזהר ליפשיץ בנושא החטופים. אני מבינה שעודד ליפשיץ הוא אביך. זה לפני הכול. בבקשה.

בוקר טוב ותודה שמקבלים אותנו בכל ועדות הכנסת בכבוד ונותנים לנו לנאום. בינה מלאכותית היא נושא שגם לחטופים מאוד חשוב. אנו רואים את הפייק שיש ברשתות, את השימוש בבינה הזו כדי להכחיש את 7.10, את הקרבות שיש, את התמונות שיוצאות מהבינה המלאכותית, ובכלל, אנו רואים שהמרחק בין האמת של מה שהיה למה שאנו מרגישים וחווים את האמת שלנו הולך ומתרחק בעולם, והשימוש בה נהיה ציני. זה חלק מהקושי שאנו כמשפחת החטופים חווים גם בעולם וגם פה.

באתי לדבר על ה-80 יום שחלפו. אנו משפחת החטופים, נאנקת כבר 80 יום. המשפחות לא ישנות 80 יום. חלק מהאנשים נשברים וכבר לא יגיעו לוועדות הכנסת ומצנטפים בביתם וכואבים את כאבם. חלק מיואשים כי חושבים שבמתווה הבא אולי החייל שלהם לא ייצא בכלל כי הוא לא זקן ולא ילד. חלק נלחמים על קולם אבל המשותף לכולם שכולם ממש-ממש כואבים. כל יום שעובר החטופים שלנו נאנקים בפנים, החיילים שלנו סובלים את מה שהם סובלים. ההורים לנערות שנחטפו, לצפתיות שנחטפו לא ישנים. העדויות הקשות יוצאות ומספרות שהם סובלים בעינויים קשים כולל התעללויות מיניות, מכות, השפלות, הרעבה, התעללות פסיכולוגית. אנשים שחוזרים בכלל לא ידעו מה היה וצריכים להשלים את זה. והנה חזרתי מוועדה שדנה באנרגיה ועכשיו AI וכיף לראות שהמדינה היא לא רק חטופים אלא מתפקדת ובונה את כוחה כי לא חסר לנו מלחמות בצפון, בפנים, שסע פנימי. לא חסר לנו במה להילחם אבל אנו משפחת החטופים באה לזעוק שבתוך בליל המלחמה והקושי האדיר שיש לנו לראות את הפצועים ואת החיילים שנהרגים, אנו גם הורים לחיילים ומכירים את הפצועים. ובנוסף לקושי שיש למדינה, כל אחד יש לו החטוף שלו, ואנו הגענו למקום שאנו מרגישים שיש אנשים שחושבים שאפשר להמשיך את המלחמה למיגור החמאס וכמי שגר בעוטף עזה אין אחד שהיה רוצה להוריד את האיום הזה יותר ממני, אבל הגענו למקום שכל יום שעובר יש לנו פחות חטופים חיים ופחות סיכוי לראות אותם בחיים. לכן אנו רוצים להגיד ש-80 יום נגמר. אנו רוצים את כולם עכשיו, ואנו נילחם בכל מקום והילדים של החטופים יתגייסו בכל מצב כדי להילחם את מלחמות ישראל, אבל עכשיו פדיון שבויים. להחזיר אזרחים, להחזיר תינוקות, נשים. לגאול אותם מהייסורים המטורפים שעוברים בשבי. זה הדבר שאנו צריכים עכשיו. שעם ישראל יראה בנו צורך ולא רק נטל שמפריע ללחימה. לא חושב שכולם רואים כך, אבל הגענו לשני צירים שמתנגשים. המשך לחימה – חטופים, וההצעות שעומדות ואנו שומעים בתקשורת, לא יודע כמה הן רציניות או לא כי אין לי הידע אבל הן מדברות על פסקת לחימה, על שחרור חטופים, מדברות על פגיעה בהישג הצבאי כדי להחזיר חטופים. ומשפחת החטופים פונה לכולם ואומרת כמו במשפט שלמה - לא לחתוך לנו את החטופים. להחזיר לנו אותם חיים, יהא המחיר אשר יהא, להצביע נכון כשזה יגיע. לא ליפול למלכודות של ימין, שמאל, נאמנים, בוגדים ושיח שמתחיל להיות פה, קצת פוליטי אלא פשוט לראות אותנו כחלק מהעם היהודי, חלק מהאזרחים פה שפשוט נפל עלינו ב-7.10 האסון הנורא הזה, ואנו מבקשים: תגאלו אותנו. תנו לאבות לילדות ולילדים לישון בשקט. כל אחד יקבל מה שיקבל, מי בחיים ומי גוויה ומי חלקים הוא יקבור ורק כך נוכל להמשיך הלאה. אנו פונים לכולם – פשוט די. את כולם עכשיו. תודה רבה.

תודה רבה יזהר. אנו מחזקים אותך, מתפללים לשלום כל החטופים ולשלומו של אביך. הם בלב של כולנו. אנו הולכים לישון אתכם וקמים אתכם. אני יכולה לומר כחברה במחנה הממלכתי שהנושא הזה חשוב לבני ולגדי איזנקוט. הם עוסקים בו יום ולילה. אנו בימים מאוד מורכבים, מאוד עצובים, ותודה שבאת. אני מתנצלת שאנו עוסקים בדברים שבטח נראים לך מנותקים ממה שאתה עובר - אבל אתם באמת בליבנו.

התחלתי בזה שאסור שהמדינה תפסיק ב-7.10 לתפקד כי יש חטופים, אבל היא צריכה לעשות הכול כדי לפתור את החטופים. אם כולם היו במצב של משפחת החטופים, היינו קורסים חברתית וגם כלכלית. תודה לבני ולגבי אבל הם חלק מקבינט ואנו צריכים שכולם, כולל ראש הממשלה, יקבלו החלטות קשות ויחזירו לנו את כולם עכשיו. תודה.

תודה רבה. אנו במעבר חד נעבור לנושא הדיון – שימוש בבינה מלאכותית להפצת דיפ פייק באופן שפוגע במדינת ישראל.

אנו נמצאים בימים לא רגילים, של מלחמה מאתגרת לאחר אירועי הטבח הנורא ב-7.10 שספגה מדינת ישראל. המערכה הקשה שעוברת עלינו היא לא רק מלחמה פיזית בחמאס אלא גם מלחמה הסברתית ותודעתית ברחבי העולם על זכותנו ועל זכותה של מדינת ישראל להגן על עצמה ולהגן על האמת. במלחמה ההסברתית הזו אנו לא במיטבנו בלשון המעטה. ישראל לטעמי אינה מתמודדת באופן מספק עם הסתה ועם מידע שקרי רב שמתפרסם ומופץ בפלטפורמות וברשתות החברתיות השונות. בעוד שמלחמת רוסיה אוקראינה זכתה לכינוי מלחמת הטיקטוק הראשונה, חברות ברזל מכונה בפי רבים מלחמת ה-AI הראשונה, וזאת בעקבות מידע רב וכוזב שמתפרסם ברשת נגד מדינת ישראל ונגד צה"ל שמיוצר בין היתר בשימוש בבינה מלאכותית.

זה מתבצע על ידי תמונות שמזויפות, אבל גם על ידי טקסטים, סרטונים כוזבים ומלאכותיים שלא מתבססים על תוכן מקורי שניתן לאתר ברשת וכן באמצעות פרופילים מזויפים ברשתות החברתיות שגם הם מפיצים תוכן מסית וכוזב. השימוש הזה בבינה מלאכותית לשיבוש מידע שידוע כדיפ פייק מיוצר לו באין מפריע על ידי תומכי חמאס ומתנגדי ישראל, מקדם הסתה נגד ישראל בעולם ונגד יהודים בעולם, ומקדם תיאוריות קונספירציה.

לכן בחרתי לכנס את הוועדה הזאת שהוקמה לפני הוועדה בנושא מפתח זה בינה מלאכותית כדי להעלות בימים אלה שחדשות רודפות חדשות, להעלות על סדר-היום הציבורי גם את הסוגיה הזו שרלוונטית מאוד. ה-AI כידוע הביאה לעולם הזדמנויות רבות ומדהימות, אבל יחד איתה הגיעו גם סיכונים, וביניהם הקלות הבלתי נסבלת שבה ניתן היום לשקר, להסית ולזייף את המציאות ולעשות הכול בצורה מדהימה, שלא נראתה כמותה שנראית הכי אמיתית ואותנטית. ה- AI מאפשר לייצר גן עדן לזייפנים. לכן בפתח הדיון טרחנו ושמנו תמונה שהיא רק דוגמה אחת. השער מהמגזין הצרפתי שפורסם ב-19.10 שבו הופיעה תמונה של תינוק פלסטיני בין ההריסות, תמונה לא אותנטית שנעשה בה מניפולציה על ידי בינה מלאכותית.

בדיון היום נשמע גורמים שונים, שרלוונטיים לנושא הזה, שלצערי, לא זוכה בקשב מספיק. נשמע את הפייק ריפורטר ואת איגוד האינטרנט, גופים סופר חשובים שעושים עבודת קודש בנושא הזה, נשמע נציגים מחברות הטכנולוגיה ומהרשתות, ממייקרוסופט, מגוגל, ממטא, מעוד, שמחזיקים בתשתיות הרלוונטיות להפצת התכנים האלה. נשמע ממכוני מחקר, מהמכון הישראלי לדמוקרטיה. נמצא פה דרור גלוברמן מערוץ 12 שמקדם נושאים ומעלה המון נושאים של טכנולוגיה והרלוונטיות שלהם לחיים שלנו ותודה שראית בנושא הזה מספיק חשוב כדי להגיע ולדבר אתנו. נמצאים כמובן נציגי הממשלה ממשרד החדשנות, מרשות החדשנות, ממחלקת הסייבר, מרשות הסייבר, מהאוניברסיטה העברית, מחברות סטארט אפ, מחברות טכנולוגיה שעוסקות בנושא הזה. מערל הסברה ועוד הרבה גורמים.

נחלק את הדיון, שתחילתו נעשה בו סבב הצגת הנושא – המצב בחו"ל, הרגולציה והסדרת הנושאים האלה בעולם לעומת ישראל, וכמובן ננסה לפתוח את הנושא החשוב הזה לדיון.

לפני שנתחיל הייתי רוצה שניקח נתון אחד. באוניברסיטת הרווארד נעשה סקר באחרונה, ב-13.12, 14.12 והתוצאות מאוד מעציבות: 51% מהאמריקאים הצעירים עד גילאי 24 טוענים שהפתרון לסכסוך שמתקיים בין ישראל לפלסטינים הוא קצה של מדינת ישראל. 60% מהם חושבים שמתקפת הטרור של חמאס מוצדקת, ושישראל מבצעת רצח עם. אגב, מיד לאחר מתקפת 7.10 רק 26% מאותם צעירים חשבו כך. עוד סקר שנערך בניו יורק טיימס מארצות הברית ב-19.12 הראה ש-46% מהצעירים בארצות הברית מגלים אמפתיה עם הצד הפלסטיני, ואלה נתונים מאוד מדאיגים, ואת העלייה בהסתה שאנו רואים, אנו רואים בעיקר בקרב הדור הצעיר וצעירים, ולכן הדיון הזה שמתמקד ברשתות החברתיות ובפלטפורמות הטכנולוגיות, שם הדיון על הדיפ פייק חשוב במיוחד ושם אנו מתמקדים. לכן נעסוק בכמה התופעה הזו רחבה בדגש על הפלטפורמות החברתיות. נדרוש תשובות גם מחברות הטכנולוגיה וגם מהממשלה. אקדים ואומר שהרגולציה בישראל מפגרת מאוד בנושא הזה לעומת העולם. לפני שאתחיל אודה לרועי גולדשמידט, ליובל וורגן, עו"ד ד"ר ליאור בן דוד, עדי כהן אהרונוב ממרכז המחקר והמידע של הכנסת, נירה לאמעי רכלבסקי, תודה נירה על ההכנה לדיון, לעו"ד דן מרזוק מזכיר הכנסת וכמובן איילת שדי מהר יזמנו וקידמנו את הדיון. נתחיל. בבקשה. חשבתי שנכון להתחיל עם אחיה שץ. ספר קצת על הגוף שאתה מייצג, על הפיק ריפורטר. כך נתחיל בהצגת המצב, כפי שאתם רואים אותו. תודה.

תודה רבה על ההזמנה, חברת הכנסת אורית פרקש הכהן. תוכל לכל מי שהגיע. פייק ריפורטר אנו מיזם מחקר למאבק בפעילות זדונית ברשתות. נעזרים בחוכמת ההמונים בציבור ובחוקרים כלים כדי לזהות תופעות ולהילחם בהן, בין השאר, בדיסאינפורמציה, בקונספירציות, בפייק ניוז, אבל גם בשיח שנאה ואלימות ברשתות. התמקדנו באירוע הזה במה שקורה ברשת. אנו ארגון שטח של האינטרנט. אנו ממש יכולים להראות איך הדברים קורים. בשנת 2023 מלחמות מתקיימות בעולם הפיזי אבל בעולם הווירטואלי במקביל והכניסה של הבינה המלאכותית משנה את הכללים ובעיקר נותנת יכולת לגופים ולאנשים, לייצר תכנים מאוד איכותיים מאוד מהר, מאוד בזול, ובעזרת הרשתות החברתיות ניתן להפיץ את החומרים האלה בצורה מאוד רחבה. אבל מתחת לרדאר – וזה חשוב לי להזכיר פה – נוצרים קשרים אישיים באמצעות צ'אטים, באמצעות בינה מלאכותית ושם מצליחים להגיע לאזרחים, ליצור איתם קשר, לשכנע אותם וגם להפעיל אותם כדי שיפגעו בנו.

לפני שנקפוץ ל-AI יש להבין שיש קונספירציות ושקרים שנוצרים על ידי אנשים. חלקם, רובם הם כחול לבן, ממש פה, על בגידה מבפנים, על כך שהשמאל או אהוד ברק או הצבא קשר קשר כדי לפגוע ממש בנו. הדברים האלה פוגעים בבני אדם, במשפחות שכולות, בנופלים. אנו יכולים להראות ממצאים מסקר שפורסם ממש היום. 35% מהציבור היהודי מאמין בלפחות תיאוריית קונספירציה אחת, 90% מהציבור היהודי בישראל תומך בהקמת ועדה שתחקור את מערכת הביטחון, הממשלה והעומד בראשה שזה נהדר אבל 43% תומכים בהקמת ועדת חקירה שתחזור האם גורמים בשמאל תכננו את מתקפת החמאס. 43%. זה אחוזים מטורפים וזה נוגע לעולם של שקרים וקונספירציות שקורה לא רק על ידי בינה מלאכותית אלא גם על ידינו. כשאנו מדברים על בינה מלאכותית, אנו מדברים על בינה מלאכותית יוצרת. טקסטים, תמונות, סרטונים נוצרים בצורה מאוד קלה ומופצים, ובמלחמה בינה מלאכותית יוצרת מלחמה. אנו רואים כבר מהשעות הראשונות של 7.10 לתכנים שנעשים על ידי בינה מלאכותית יוצרת, מופצים באופן בלתי פוסק גם על ידי אזרחים, גם על ידי ישויות אבל גם על ידי רשתות השפעה ומשפיענים שפועלים ברשתות החברתיות וגם באפליקציות המסרים.

הנה למשל תמונה של בינה מלאכותית שנוצרה וברור לכולנו שאינה אמיתית. יש אחת של פרו פלסטינית, אחת פרו ישראלית, וגם אם הן דומות – ברור לנו שאינן מציאותיות. זה גבולי אבל סרטונים בטיקטוק שנוצרו לייצר אמפתיה. אנו מגיעים לצעד קדימה, דבר שנראה לנו ממש אמיתי - דברים שנעשו כנראה בשביל או לשעשע או לייצר מורל בחברה הישראלית ואנשים לוקחים אותם מאוד ברצינות. מכאן אנו מגיעים לעולם שלם של שימוש ב-AI כדי להטעות. הדברים האלה משמשים גם להכחשת הטבח ב-7.10, גם להמציא אירועים שלא התרחשו, עדויות מזויפות, אירועים צבאיים, שחרור חטופים ועוד. מסייעים ביצירת מסרים שליליים כמו דה מורליזציה, טענות על פגיעה בחפים מפשע אך גם מסרים חיוביים – להעלות את המורל וכן הלאה. אחרי שהשקר נחשף, נחקק בזיכרון. אנשים הרבה פעמים גם אם יודעים שמשהו שקר, בכל מקרה ממשיכים להשתמש בו או לזכור אותו כאמת, וגם זה מנוצל על ידי שקרנים. הם יכולים לומר: מה שאתם חושבים שנעשה שהוא אמיתי הוא בכלל AI. תכף נראה זאת.

עוד תמונות של תעמולה, נגדית. אלה לא חיילים שנהרגו. זו אינה סעודה שנעשית בצל ההריסות. אבא שמלחץ את ילדיו - שמעולם לא קרה. כל תמונה פה – מיליוני חשיפות ברשתות החברתיות. הנה תמונה מוכרת של הילד הפלסטיני עם שש האצבעות ולצדו תמונה עם סיפור נורא על תקיפה מינית שלא קרתה של ילדה בת 13 בכלא הישראלי שכדי לחזק את הסיפור מעלים תמונה. גם היא נעשתה על ידי בינה מלאכותית.

גם בצד שלנו אנו רואים חייל מימין שמחלץ זוג תאומים. יש לו שלוש ידיים – כך ניתן לזהות שהתמונה מלאכותית אבל גם הייתה מאוד מופצת וכן הלאה.

זו תמונה מערוץ GAZA NOW, ערוץ התעמולה החזק ביותר של החאס בטלגרם ובמקומות אחרים שכביכול הפינוי של ישובים בישראל אוהלים על גבי אוהלים של ישראלים שפשוט לא קיימת. כך משכנעים את הציבור בכל העולם שאנחנו נמצאים במצב מאוד קשה, וגם יודעים לגייס כל מיני סלבריטאים. הנה, מחזיק שלט שתפו ונעטף בדגל ישראל. מעולם לא קרה.

התגובות כפי שאתם רואים – אנשים מתרגשים ונופלים למלכודת השקרים האלה. אתם חושבים אולי שמשהו נראה ברור, אולי לחלקכם, בטח לאנשים עם ניסיון אבל מעט מאוד חינוך גורם לאנשים ליפול לשקרים הללו ואנשים מאוד מתרגשים מזה ואחרי זה משתפים את זה.

הדבר גם משתלם מסחרית. זה אדובי. מראה איך תמונות שנוצרו בבינה מלאכותית נמכרות על ידי הפלטפורמה שלהם, ובטווח הארוך זה יהפוך להיות המציאות שקרתה.

ג'ייסון הינקל, בחור אנטישמי משפיען עם מילוני עוקבים בטוויטר מעלה תמונה נוראית של תינוק שנשרף ב-7.10, ובודק את זה כביכול באמצעות כלי AI וטוען שהתמונה מזויפת. הוא כמובן משקר אבל הנה, אפשר גם באמצעות בינה מלאכותית לטעון על דברים שהם אמת שהם בינה מלאכותית. שקרים עושים עם זה המון שימוש.

אותו דבר אפשר לראות לא רק בציבור הכללי ומשפיענים אלא ברשתות זרות. פה אנו נכנסים לשימוש של רשתות זרות, של חמאס, איראן, רוסיה ועוד, איך הם מפעילים אותנו ומשתמשים בדיפ פייק כדי לקדם את האינטרס שלהם במתחמה. השימוש הזה גובר מאוד. רואים איך במלחמה הנוכחית יש יותר פייק ויותר שימוש בבינה מלאכותית משראינו אי פעם ברשת. הפך להיות ממש שגור. זה לא אומר שלא קרה בעבר. זייפו למשל את קנייתו של לזלנסקי במלחמת רוסיה אבל למשל, שני חשבונות מזויפים – אחד של ראש הממשלה נתניהו והשני של הרב הראשי לשעבר שלמה עמר. רשת איראנית כנראה מזייפת – לא נראה מפאת זוועת הסרטונים - עושה דיפ פייק שלהם כאילו מדברים, אחד הרב שלמה עמר נגד להט"ב ואת נתניהו מדבר כביכול על המשך הלחימה והאינטרס שלו בעניין בסרטון אחר. מה שאתם רואים פה זה פעולות של רשת זרה. כל הדברים האלה קשורים למלחמה. עושה סירקולציה של חומרים שהם מייצרים בין השאר על ידי דיפ פייק ועל ידי בינה מלאכותית יוצרת. בעיקר האשמות על כך שמפקירים את החטופים, על כך שהאשמה היא על הממשלה, על נתניהו, שנתניהו מרוויח מהעניין. אפשר לראות את הרצי הלוי כביכול מתחת לתמונות חטופים גם מואשם בהפקרת החטופים, וגם ממש כרזות, שנוצרו בזמן מלחמה, וניסו להפעיל אזרחים פה כדי שיתלו אותן. נתניהו כביכול נשרף – תמונה מסיתה, וגם תמונות פוליטיות, אולי לגיטימיות - אבל נוצרו על ידי רשתות זרות.

שימו לב. AI משמש לטיפולים פסיכולוגיים. יש ל- AI היכולת – ואני מקריא את הציטוט של נח הררי - באמצעות השליטה שלה בשפה בינה מלאכותית תוכל אפילו לייצר קשרים אינטימיים עם אנשים ולהשתמש בכוחה של האינטימיות כדי לשנות את הדעות ואת השקפת העולם שלנו. אם תנסו לחשוב מה גרם לכם אי פעם לשנות את הדעה כנראה שזה לא פוסט בפייסבוק שבו כתבתם: צודק, שיניתי את הדעה. זה אנשים שאתם מכירים, אוהבים, שיצרתם איתם קשר, וזה בדיוק מה שמבינים רשתות זרות. שני לבבות זו קבוצת היכרויות שנוצרה על ידי רשת זרה ופועלת כדי לייצר קשרים אינטימיים עם אזרחים בישראל. ממש כך. שם הם מפיצים תעמולה אבל גם יוצרים התכתבויות אישיות באמצעות מכונות תרגום שגם הן היום פועלים באמצעות בינה מלאכותית שמשתפרת עוד ועוד. כך הם מייצרים מערכות יחסים. זו תמונה של כביכול "בקשר" בין סוכן איראני לישראלי. הצעד הבא הוא לשלוח אותם למשימות. רואים פה שלטים שנתלו בישראל על ידי אזרחים ישראליים ושהשולח מפעיל איראני. גם התמונה שראיתם לפני כן נתלתה פה בירושלים אחרי שסוכן איראני הפעיל אזרח ישראלי שהצליח ליצור איתו קשר אישי בהתכתבויות.

זה לא נעצר שם. רואים פרסום של השב"כ על רשתות איראניות שאנו חשפנו. הם המשיכו להתכתב איתן והראות איך הסוכנים האיראניים האלה מובילים אזרחים ישראליים לתכנן ביצוע של פעולות טרור. ממש לצאת ולפגוע באנשים עם נשקים. ככל שהבינה המלאכותית היוצרת תהיה חכמה יותר, ככל שהטקסטים יהיו נהירים יותר, רגישים יותר, מותאמים יותר לקהל הישראלי ולאנשים - אפשר יהיה לנהל מאות מערכות יחסים אישיות של אנשים עם אזרחים ישראליים בצ'אטים מתחת לרדאר. לא איפה שאנו נראה, לא איפה שהשב"כ יראו ולא איפה שהרשתות יראו. מערכות היחסים האלה יובילו אנשים לשנות את דעתם כי כך משנים דעה. על ידי כך להפעיל פה צבאות בלי שיודעים, לגרום לדברים לקרות בשטח ואולי אף לבצע פעולות טרור.

אסכם. בינה מלאכותית יוצרת מלחמה כל יום, כל היום, ביעילות, בקלות וזו רק ההתחלה. יש פער אדיר באוריינות של מידע ודיגיטל. הציבור לא יודע ואף אחד לא מלמד אותו להתמודד עם הזיופים האלה. זה לא רק בינה מלאכותית – גם קונספירציות של אנשים, והדבר הזה מגיע עמוק לתוך קהלים רחבים בחברה הישראלית. השילוב בין רשתות חברתיות שהן כלי הפצה מדהימים לבינה מלאכותית הם כלי נשק תודעתיים והזירה התודעתית המלחמתית היא אדירה – ומקווה שאחרים פה ייכנסו אליה לעומק. הסכנה היא לא רק ביצירת תכנים אלא בלמידת שפה, למידת רגש, למידת שקר ויצירת קשרים מתחת לרדאר. מעט מאוד נעשה בנדון. לא המדינה ולא הרשתות החברתיות עושות מספיק כדי שנתמודד עם התופעה והתוצאות בהקדם.

אומר שלושה דברים וייכנסו לעומק עמיתיי, מקווה גם שתהילה. אנו ממליצים להגדיר את השימוש בבינה מלאכותית וברשתות כאתגר לאומי, ולפעול בהתאם גם בתחום ההסדרה וגם בתחום החינוך. העתיד של דמוקרטיות בכל העולם תלוי ביכולתן לתת מענה לאיומים הדיגיטליים העומדים בפניהם – הגיע הזמן להתגייס ולהתמודד גם עם המלחמה ברשתות.

תודה רבה על ההצגה החשובה הזו. לפני שנשמע את חברות טכנולוגיה, שהגיעו, יש פה ד"ר תהילה אלטשולר מהמכון הישראלי לדמוקרטיה. אחריו דרור דלוברמן וגאיה הררי - ונשמח לשמוע את חברות הטכנולוגיה עצמן ותודה שהגעתן. תהילה, את עוסקת המון בנושא בינה מלאכותית בתחומים שונים וגם בנושא הזה. שמענו את הדברים המאוד מטרידים, אפילו מפחידים של הפייק ריפורטר. נשמח לשמוע אותך, בבקשה.

תודה רבה. אני רוצה לברך אותך חברת הכנסת פרקש הכהן. אנו מאוד זקוקים לדיונים האלה כאן בכנסת בנושא בינה מלאכותית. לצערנו נפלה עלינו המלחמה וטוב שהדיון הזה מתנהל אבל אני מאוד מקווה שכפי שתכננת יהפוך לראשון בסדרת דיונים, כי בסופו של דבר אנו מוכרחים להחזיק קו יחד עם העולם ויחד עם מדינות המערב.

העיסוק שלנו בעולם הזה של בינה מלאכותית ושל דיס אינפורמציה במלחמה הוא חלק מעבודה שאנו עושים עכשיו בהקשר של הממד הרביעי של המלחמה. כולנו מבינים שנמצא. יש צורך מאוד בוער לייצר המשגות. אנו לא מבינים הכול, מערבבים בין דברים ולכן היכולת שלנו למצוא פתרונות אחר כך, תהיה בעייתית. כשאנו מדברים על הממד הרביעי של המלחמה, אפשר לפרקו לממד הסייבר ולממד המידע וגם את ממד המידע אפשר לחלק לממד של מה שאני מכנה תוכן רעיל ולממד של המלחמה הפיג'יטלית הזו. אני יכולה לדבר על זה שעה שלמה אך לא לשם כך התכנסנו היום.

כשאנו מדברים על מאפייני הממד הרביעי בהקשר תוכן רעיל יש לו כל מיני מאפיינים. יש אמצעים צורניים שמשתמשים בהם כדי לייצר הפצת תוכן רעיל. יש אמצעים מלאכותיים – בזה נעסוק היום. יש התכנים עצמם שנעים על מנעד מאוד רחב שאפשר לומר שמצד אחד הסתה לטרור, באמצע היא כל מיני שקרים אבל בצד השני מדובר על תכנים אמיתיים שהם תכני זוועה. זה חלק ממה שהפך את הטראומה שלנו לקולקטיבית במלחמה הזו.

שני עניינים מאוד חשובים. אחד, מדינת ישראל כמדינה שדוברת שפה ייחודית, הרבה יותר פגיעה לנזקים של תכנים רעילים וזה מפי שלא נעשית עבודה מספיק טובה של ניטור תוכן אוטומטי ברשתות. אני רואה פה הרבה אנשים – ידידיי מהתוכנית הלאומית לבינה מלאכותית. הצורך במודל שפה בעברית הוא הדבר הכי חשוב. אנו לא יכולים להמשיך לשים פלסטר ולומר: כל מיני אנשים יעשו בשבילנו הסברה ברשתות וינקו בשבילנו את הרשתות. זה צריך לבוא מהקרקע.

שנית, היעדר האחריות של הפלטפורמות. אני קוראת לזה המערב הבא בתור. יש הבנה היום שאנו חזית של המערב בכל מיני מקומות מאוד רעים אבל זה גם נכון לגבי רגולציה של רשתות חברתיות. התווך שבו הממד הרביעי של המלחמה מתקיים הוא פרטי, ויש לחשוב מה לעשות איתו.

משהו מאוד חשוב לי. אנו לא נמצאים היום במצב שבו היינו ב-2014, 2015, 2016. יש היום בנצ'מארקים עולמיים או לפחות אירופאיים איך צריך לאסדר רשתות חברתיות, מוצרים דיגיטליים ומוצרי AI. אין שום סיבה בעולם שמדינת ישראל תהיה החצר האחורית של ההסדרה הדיגיטלית של העולם. זו חובתם של אנשי משרד המשפטים, של חברי הכנסת לסגור את הפער הזה.

באיזה מובן החצר האחורית?

אין אסדרה. אין הכללים האלה.

ב-2018 נכנסה לתוקף חקיקת הפרטיות האירופאית, בתחילת 2023 נכנס לתוקף החוק שמחייב אחריות על רשתות חברתיות. יחד איתו נכנס לתוקף ה-digital markets act. לפני שבועיים אושר באיחוד כמעט סופית הו-AI ACT. אלה דברי חקיקה שיוצרים בנצ'מארק עולמי, מחייבים מדינות אחרות להתאים עצמן אליהן ואין שום סיבה שישראל לפחות לא תגייר את החקיקה הזו. אני לא מדברת על יצירת בנצ'מארק עולמי, לא רוצה להיות בחזית של מי שקובע. אנו קטנים מדי, אין לנו הכוח הזה אבל לא ליצור מצב שבו אזרח ישראלי פחות מוגן מכוחן של חברות הענק הטכנולוגיות מאזרחי אירופה.

להפך, אפשר לומר שהמציאות בישראל דורשת שנהיה מעל הכול. אנו זקוקים ליתר הגנה אז לכל הפחות שהכללים שלנו יהיו אלה שקיימים בעולם.

נכון. ופה גם לצורכי הדיון הזה – אנו מוכרחים להסביר ולהגדיר על מה אנו מדברים כי שקרים זה לא דבר שהשלטון אמור להתעסק בו. השלטון לא צריך לקבוע מה שקר ומה אמת. זה טיבה ובסיסה של דמוקרטיה. קשה לנו להסכים על זה. לכן גם האירופאים – כשהם מדברים היום על דיס אינפורמציה או מה שאנו מדברים היום על פייק ניוז - עזבו את סיפור התוכן. הם מדברים – וזה הדבר החשוב – על הצורה שבה נעשית הפצת המסרים האלה. לא על תוכן המסרים עצמם. כלומר, מדובר בדברים שאינם לא בלתי חוקתיים. לכן יש לנו בעיה איתם. צריך לייצר חקיקה אבל זה לא בלתי חוקי. מדובר בדברים שיש להם פוטנציאל שלילי, בדברים שאופיים הוא – לא הבלוגר בתחתונים שיושב בבית ומצייץ ככל העולה על רוחו. אנו מדברים על קמפיינים מתואמים. תיאום יכול להיעשות בכל מיני דרכים, אבל ההגדרה הזו אנו מוכרחים להתחיל לאמצה. היא תעזור לנו להתקדם. אחרת נערבב כל הזמן בין השפעה זרה והשפעה מקומית. השפעה של שקר והשפעה של הסתה. לא כדאי. אנחנו צריכים לשאול עצמנו למה הדברים האלה מתפזרים, איך הם מתפזרים ברשתות, מה גורם להם אלגוריתמית לעשות זאת, איך זה נעשה באקו סיסטם של המידע, מה המשמעות של מה שאחיה תיאר מאוד יפה וכתבתי עליו בעבר – אותה תחילת מסר שהגיעה אולי מאיראן אבל עכשיו הוא עמוק בתוך השיח הישראלי. ישראלים משתפים אותו. כל השאלות האלה אנו מוכרחים לשים אליהן לב.

אבל השאלה מבחינתנו זה מה חדש. כי ביושר - בסוף המלחמה הזו – היא לא מלחמת ה-AI הראשונה. המערך שראינו הוא כאין וכאפס לעומת דברים אחרים שראינו, זיופים אחרים.

אבל בהקשר של מלחמה.

למשל המון תמונות של הפצצות מעזה ממבצעים קודמים, כולל הפצצה גרעינית על עזה עם תמונה מ-1959 שלא הפצצנו מעולם. זה חלק ממה שראינו. זה לא הדבר המשמעותי. השאלה היחידה היא מה חדש עכשיו ב-AI לעומת מה שאנו מכירים מכל העולם של הדיס אינפורמציה לפני כן. פה הוועדה יכולה לעשות השפעה. זה הדבר המעניין מבחינתי.

כשהם שחררו את המודלים, הם ידעו זאת. זה הדבר שהכי חשוב לומר. כשסם אלטמן מנכ"ל אופן AI מתראיין לפני שנה, ואומר שזה יכול לשמש כלי לדיס אינפורמציה הוא שולח לעולם מוצר ללא מנגנוני הגנה מספיקים. זה כולל גם את מי שהשקיע בו כסף וגם את מי שמתחרה בו במרוץ לתחתית אבל יש לומר זאת - הם יודעים שיש פה תקלה והם לא יודעים עדיין איך לפתור אותה. באיזה אופן הם באים לרגולטור ואומרים: יצרנו – עכשיו תוריד מאתנו את האחריות. זה דבר שיש לשים אליו לב.

מה שכדאי לומר זה, שהמודלים של השפה יכולים ליצור גם טקסט וגם וידאו וגם תמונות, ולעשות זאת במהירות הולכת וגדלה.

תסתכלו על השקף הזה. הוא אחד הכי יפים שאני מכירה, של בית ההשקעות סקויה שמראה את המהירות שבה המודלים האלה עקפו יכולות אנושיות בשנים האחרונות. אין דברים כאלה. לכן אנו נמצאים במצב שבו אנו נמצאים.

יש לנו דברים כלליים אפשר לטפל בהם. למשל להשתמש בטכנולוגיה כדי לנטר תכנים שהם machine generated או לסמן אותם או ליצור מסדי נתונים של תכני עבר או אפילו לבקש ממשתמשים ברשתות: תוסיפו אתם את ההקשר שמדובר פה במשהו שהוא יציר מכונה. זה הדבר שיחסית קל לעשות.

זה אולי הדבר שהכי חשוב לי לומר: הסגולות של המודלים של השפה הן הרבה יותר מאשר יצירת תוכן, וזה אולי הדבר שאנו צריכים לשים אליו לב. הן מאפשרות ליצור הונאה בסדר גודל שלא היה, לבנות את כל האקו סיסטם של התוכן סביב, יכולים לקדם נרטיבים ולא רק פוסט מסוים. הם יכולים ליצור אסטרטגיה פוליטית, ליצור תכנון ארוך טווח, הם יכולים לפתח מודעות מצבית, כלומר להבין איפה הם כמודלים נמצאים ולכן באיזה שלב לפרוץ את המודלים שהם נמצאים בו ויש להם גם יכולת התרחבות והפצה עצמית. אלה בעיניי הסכמות של AI. לא תמונות עם 6 אצבעות.

גם.

נכון אבל אלה הדברים ואם לא נסתכל עליהם היום, נמצא עצמנו כאן חלילה במלחמה הבאה אבל גם בשלום הבא עוד שנה מתמודדים עם דברים הרבה יותר מסובכים.

עוד דבר. יש לראות את זה בהקשר יותר רחב. בצד שמאל הרשתות החברתיות, הפלטפורמות. עם כל התוכן שיש בהן. בצד ימין המודלים הגדולים של השפה אבל באמצע עוד אתגרים. יש מה שקורה בשירותי הענן, בחנויות האפליקציות ומה שיקרה במטא ורס. כלומר יש לנו פה עולם שלם שיש להסתכל עליו באופן יותר הוליסטי.

אז מה לעשות. יש לנו דבר ראשון, אנו צריכים לדבר על שרשרת אחריות. יש לנו גם המודלים, יש האפליקציות שנבנות על המודלים, יש הרשתות החברתיות שמפיצות את התוכן אבל יש לנו גם מי שעושה שימוש בתוכן הזה. מי שמפיץ. יכולות להיות מדינות זרות אבל יכול להיות גם מתמודדים בבחירות. יש לקחת זאת בחשבון. מה שמדינות זרות יכולות לעשות גם הפוליטיקאים כאן יכולים לעשות. איך מתמודדים עם זה – זאת שאלה.

כך נראה ה-AI ACT האירופאי שעבר כבר לפני כמה חודשים ועשו בו תיקונים אחרונים ב-8.12, 9.12. מודלים של שפה, מערכות בינה מלאכותית גנרטיביות הן מערכות בסיכון מוגבל כלומר האירופים לא הצליחו להצליח לומר, יש לנו פה דבר גדול ויש לפקח עליו יותר.

מה שהם כן יצרו עכשיו בתיקון שעשו – התייחסות לשני סוגים – - - סוג של חלוקה שמי שמכיר יודע שזה מה שעשו גם שם.

בסופו של דבר אנו צריכים פיקוד עורף דיגיטלי. סביב שולחן המטכ"ל אין אף גנרל היום שזו המומחיות שלו וזה היכולת שלו וזה חלק ממה שנתפסנו איתו במלחמה הנוכחית עם המכנסיים למטה. תקראו לזה זרוע המידע כמו זרוע היבשה. זה לא כל כך משנה אבל זה דבר שעלינו להפנימו. אף אחת מרשויות המדינה, מערך הסייבר, השב"כ, הרשות לפרטיות, ישראל דיגיטלית, לא ידעה – המשטרה – מה חלקה, מה אחריותה. פה אני רוצה לברך את חבריי ממערך הסייבר שלקחו אחריות. הם אמרו: במקום שאין אנשים נהיה איש והם מתחילים לעשות את הצעדים הראשונים האלה. אבל עלינו לדעת שזה פוגש אותנו בעולם ההגנה, בעולם ההסברה וההשפעה, ועלינו לסגור פערי הבנה בהקשרים האלה.

את אומרת משהו ששמעתי גם מאנשי ההייטק – במטכ"ל, בלי קשר ליתר הצעדים, לרגולציה שחסרה, לזה שאין אפילו חובת סימון בישראל. אין אפילו היכולת לפנות בצורה מעבר לוולונטרית בחברת טכנולוגיה, את אומרת: בוא נשים אלוף שהוא איש טכנולוגיה מובהק ומוקדש לנושא הזה.

בעיקר זה לא האיש. זה יצירת הידע ויצירת המתודולוגיות לניתוח. צריך לאסוף ולנטר, צריך האנשים שיידעו לנתח את הדברים האלה, לראות אותם בהסתכלות כלל פלטפורמלית, להבין מה זה התנהגות אותנטית, מה המשמעות של ליצור דברים באמצעות מכונה. מי שיהיה אחראי על התכלול המוסדי - יש בסוף המון גופים שזה צריך להיות חלק מתפקידם, וכמובן מדיניות חקיקה ורגולציה.

עוד דבר. אנו צריכים לחבר את החשיבה שלנו על סייבר לחשיבה שלנו על influence opperation. בסופו של דבר אם תאמצו את גישתי מקודם שאומרת: אל תסתכלו על התוכן. הוא לא מעניין, אתם מדינה. אל תעשו צנזורה אלא תסתכלו רק על ההתנהגות, על ההפצה הנכלולית, על היעדר הסימון - אז באמת היכולת לחבר את הכלים שיש לנו בעולם הסייבר ואת מתודולוגיית הסייבר עם הכלים פה תהיה הרבה יותר פשוטה.

יש כבר פריימורקס שנוצרים בעולם. הם צריכים להיות לנגד עינינו כשאנו באים לטפל בסיפור הזה של פימי ברשתות.

לא תמיד אני מזמינה לקרוא דברים שאני כותבת אבל בתחילת אוקטובר פרסמתי במגזין דה מארקר וזה הלך לאיבוד יחד עם המלחמה סיפור חצי בדיוני על בינה מלאכותית, שיוצאת משליטה, ויוצרת מבצע השפעה שיש לו השפעה על הסדר העולמי. אני מזמינה אתכם לקרוא את זה, כי הוא אולי יסביר, למה עלינו לחשוב על תרחישים. לא רק להסתכל על התמונות.

זה פרסומת של בנק הפועלים מהעיתון. קיבלתי אותה מידידתי ד"ר איוונה רטנר מפקחת על התקשורת במשרד החינוך. כתוב שם בקטן: אסור לנו להשתמש בפרסומת הזו בחיילים ולכן עשינו אותם בבינה מלאכותית. אין שום איסור להשתמש בחיילים בפרסומת רגילה. אסור להשתמש בחיילים בתעמולת בחירות, אבל תעמולת הבחירות למשל לרשויות המקומיות לפנינו. מה נעשה כשיתחילו להשתמש בבינה מלאכותית כדי לעקוף חקיקה שאוסרת להשתמש בכל מיני תכנים אחרים?

הטמטום הישן נמצא שם. אתם יודעים, לא חשוב אם הוא מכלי הרכב שנוסעים לבד וגם אם לא מהמפציצים, והחשיבות שלנו בעצם לחקור מה היה לפני כן ומה קורה עכשיו בגלל טכנולוגיה חדשה הופכת להיות הדבר הכי משמעותי שלנו. תודה רבה.

תודה רבה. נעבור אליך דרור. אתה עוסק המון נושאים שאתה מביאם לסדר-היום הציבורי והתקשורתי. תודה שבאת. בבקשה.

תודה על ההזמנה והדיון החשוב הזה ואני שמח שתהילה פרסה את המצע התיאורטי העמוק לפניי מה שמאפשר לי להתעסק בדברים יותר שטחיים ופשוטים להבנה וקרובים לעין. לקחת ממני עול גדול שלא הייתי עומד בו ממילא. אני חושב שבבואנו לפתור את הבעיה שאת מציגה עם תכנים שנוצרים בבינה מלאכותית אנו מנסים לשים דובדבן על עוגה של קיימת. אין לנו כל המערך שדורש את ההתייחסות שאת רוצה.

ביטוי מצוין – אני מתעסק בפינה כשאין השלד. אין כלום בסטארט אפ ניישן, שהיא גם לא סטארט אפ ניישן אלא מעבר לכך.

אני רוצה בדקה לספר את העוגה החסרה. הנה דבר שגילינו בחודשיים האחרונים. האיש הזה קוראים לו אלברגותי. נהג המונית שהביא אותי לכאן מכיר אותו. הסרטון הזה קורא לערביי ישראל והגדה להרים נשק ולצאת להתנגדות מזוינת נגד מדינת ישראל. הוא רץ כבר חודשיים בפייסבוק ובאינסטגרם על אף אין סוף התרעות, נהנה יותר מ-2 מיליון צפיות רק בפייסבוק. מיהם 2 מיליון האנשים שצפו בו? הוא לא רק קורא לערביי ישראל להרים נשק ולצאת לרחוב נגד היהודים. הוא מאיים עליהם: אם לא תעשו זאת נבוא אתכם חשבון בסוף המערכה הזו כי אתם בוגדים. הסתה לאלימות פר אקסלנס. כל ההתרעות וכל הדיווחים לא הועילו.

אבל יש פה פעילות לא חוקית. היא עולה כדי הסתה.

אני את הסרטון הזה לא יכול לשדר בטלוויזיה, לא כפשוטו בטח. אסור לי. זו הסתה לאלימות. איני מבין למה מדוע מול אזרחים ישראליים לכל גוף תקשורת שכפוף לחוק הישראלי אסור לשדר את זה ואילו לפייסבוק בישראל ולאינסטגרם בישראל שכפופות למטא שהנציג שלהם פה – מותר. איפה מדינת ישראל? איפה הריבונות שלה? איפה המשילות שלה? אלה לא בעיות חדשות – הן קיימות יותר מ-15 שנה ולא פתרנו אותה.

לפני שנתיים פייסבוק ענתה לטענות דומות ואמרה שיש לה כלי בינה מלאכותית. לא רק אלה שמפיצים את התכנים אלא גם אלה שאחראים להסיר. יודעים בכמה מהמקרים כלי בינה מלאכותית של מייקרוסופט טועים בהסרת תוכן שקשור לטרור? לפי הטיעון שלה – 77% טעות. זה בעיקר באזורי – מלפני שנתיים – חמאס וחיזבאללה שארצות הברית ואנו מגדירים כטרור אבל בחלק מאזורי המזרח התיכון הם דווקא ארגונים בסדר גמור. את מי פייסבוק כן חוסמת – אותנו אזחרי ישראל. אנו בחודשיים וחצי האחרונים כל אזרח ישראלי שנמצא בפייסבוק יודע שפתאום החשיפה שלו ירדה דרמטית בלי הסברים, בלי מענה לפניות לא של עיתונאים ושל אף אחד. הקול שלנו, להוציא את ההסברים, את ההגנה, את הצד שכנגד. משום מה נחסם לדעתי ב-99%. אבל איני יודע כי אף אחד לא מספר לי. טוויטר – כל כך מצפצפים על מדינת ישראל שהם אפילו לא באים לדיון הזה כשמזמינים אותם, גם לא עונים לאף אחד, לא לבקשות, למה הסרתם, לא הסרתם. הם גם לא עונים לפרקליטות כשמבקשת להסיר חסמים. אנחנו אפס עבורם.

כי אין שום סמכות חוקית לפנות אליהם מעבר ללבקש טובות.

גם אין להם עובדים בישראל.

אבל הם משפיעים על הלך הרוח פה.

זה עדיין לא משנה. אפשר לנסח חקיקה שתחייב את החברה לעשות דברים מסוימים ועדיין יהיה לזה תוקף גם אם פיזית לא בישראל. אנו לא בעולם כזה כבר.

בשבועות האחרונים יצאו דיווחים מהפרקליטות שלפיה פייסבוק ואינסטגרם ויוטיוב מסירים 80%, 90% מהבקשות. זה נשמע נורא יפה. אל"ף, למה לא 100 כשהפרקליטות פונה אליי, אני צריך להסיר. אין ויכוח. שנית, כל הבקשות האלה זה אלפים, עשרות אלפים. זה טיפה בים. זה לא אומר דבר. ראיתם מה נשאר – הסתה ברורה ואפקטיבית לאלימות. למה יש להם שיקול דעת? מדוע החוק הישראלי לא חל עליהם? איך מכפיפים אותם לחוק הישראלי? כל כך פשוט. יש צו - תיענה לו, נקודה. מדינת חוק. ואנו צריכים לדרוש והגיע הזמן – תהילה הזכירה – את האסדרה האירופית. היא כוללת שקיפות של מנגנון הסינון. יש לכם מנגנון סינון? אגב זו מכונת הכסף שלכם. החברות האלה, חלקן נמצאות פה, עושות מיליארדים בישראל מהמכונות שלהם להפצת תוכן ולסינונו. מן הראוי שנוכל לפקח או לפחות להיות שותפים לקביעת הסטנדרטים – מה עובר, מה מופץ, מה מסונן. באירופה זה כבר קורה. שם הפלטפורמות כבר חייבות להסיר תוכן, עם קבלת צו, להיות בקשר עם הרשויות, להיענות לבקשות, מדי שנה להראות מה הסרנו, את מי השעינו, מה הסתרנו, לדווח על פעילות לא חוקית ולתת שקיפות למנגנון שמחליט מה יכול להישאר ומה לרדת. זה צריך להיות קשור למערכת החוק שלנו.

עוד מילה על טוויטר. לא הבנתי - אחיה הזכיר את ג'קסון הינקל. ניאו נאצי מהגרוע, השקרים הוא מפיץ חסרי אחריות וחסרי חשבון. ואז הגיע אילון מאסק לכאן ומתקבל בשטיח אדום ובחיבוקים ובלחיצות ידיים. היה מאוד חשוב שלקחו אותו לכפר עזה והראו לו מה קרה כאן ב-7.10, אבל אף מילה לא אמר לו ראש הממשלה על התוכן האנטישמי שבטווויטר הוא הגרוע מכל הפלטפורמות בעולם פי כמה מאות מכל מקום אחר. אף מילה. נשיא המדינה אמר לו מילה אחת, וחבר הכנסת ניסים ואטורי שכמה ימים קודם הושעה מטוויטר פגש את אילון מאסק פה במסדרון ובמקום לומר לו: אדוני תסיר תוכן אנטישמי ומסית לאלימות דרש ממנו סלפי. אנו לא קרובים בכלל להתמודד עם הבעיה.

תודה. אני חושבת שאתה מאוד צודק. זו גם הסיבה שוועדה כזו שדי יצרתי את הנושאים השגרתיים שלה, חשבתי שדווקא באמצע הימים האלה לא ייתכן שהנושא הזה כה מופקר במדינה.

אני רוצה לעצור את סדר הדוברים ולפנות – יש לנו פה נציגה מהפרקליטות. אני רוצה לשאול אותך, הסרטון הזה שמדבר עליו דרור, מה עשיתם בנדון? נמצא פה גם נציג מטא. הכרנו בתחילת הדיון. ארצה לעשות מרצף הנאומים ולשמוע למה הנושא הזה לא מטופל? לקרוא לערביי ישראל לקחת נשק ולעשות מעשי רצח – נמצא יום-יום על הפלטפורמה שלכם. למה זה עדיין שם?

קודם כל תודה. שרה נמצאת פה מהפרקליטות. אנו עובדים יחד.

יש פה משהו מאוד חמור. שחור ולבן. למה זה שם?

דרור בעצמו דיבר על האחוזים של הסרת התכנים ואנו עובדים באופן רציף לא רק על מחלקת הסייבר בפרקליטות אלא עם גופי ביטחון נוספים בישראל וגם עם החברה האזרחית, כולם פה מכירים אותנו. אחיה יודע לפנות אלינו באופן ישיר כדי שנהיה מודעים לדברים.

הבנתי שפנו בנושא הזה.

במקרים מסוימים – למשל הווידאו הזה - אני לא יכול להגיב על משהו ספציפי כי אני לא מכיר אותו ספציפי – אנו עובדים פה לפי החוק ומצייתים לחוק. אם יהיה צו בית משפט שאומר לנו להסיר תוכן- -

זו לא תשובה צו בית משפט. השאלה מדוע סרטון שקורא לערביי ישראל לנקוט בפעולות של רצח והייתה פנייה בנושא הזה אליכם, האם התשובה הפורמלית של פייסבוק אומרת: אנחנו מחכים לצו של בית משפט? או התשובה: לא מכיר את הסוגיה - אני רוצה ללמוד אותה ולחזור אליכם? נראה לי קצת יותר ראוי לחומרת האירוע שמתואר פה ואם מישהו ברמתך, שמיועד לנושא הזה, לא יודע מהאירוע הזה - זו גם תקלה חמורה.

אני לא דובר ערבית שוטפת. לא מכיר את הנוסח המדויק. אשמח לבדוק את הנושא ולחזור אליכם עם עדכון. שתיים, - - - כללי הקהילה שהיינו אוסרים ודאי על הסתה לאלימות. שלוש, אנו כן מצייתים לחוק המקומי. בהנחה שיהיה גורם עם סמכות שמורה לנו להסיר את התוכן כי מפר את החוק בישראל, נסיר אותו בישראל.

שרה מהפרקליטות שעוסקת במחלקת הסייבר, האם הייתה פנייה למטא?

לא מכירה. אשמח לבדוק.

יכול להיות שגם זו תקלה כי כשמדברים על הניטור שחסר ועל המנגנון שחסר ועל זה שאין כלל תשתית במדינה הזאת – בוא גם לא נדבר על זה שראש מערך הסברה מונה רק באמצע המלחמה כידה הטובה של הממשלה הזו. אני נחרדת ממה שמעתי פה. באתי לדבר על תמונות של תינוק עם 6 אצבעות ועל סרטונים ועל הקלות הבלתי נסבלת לשקר בעולמות של בינה מלאכותית ואני רואה פה סרטון חי וקיים שקורא לערביי ישראל לקום ולרצוח אזרחים אחרים. הגברת מפרקליטות המדינה לא מכירה את האירוע, האדון ממטא אומר: אני מחכה לצו בית משפט. אולי נחכה שיירצחו כמה אנשים ואז אולי נקים ועדת חקירה ממלכתית שאולי תבדוק את הנושא? סליחה על התגובה אבל זה לא בכיוון. ציפיתי לפחות לשמוע ממך שתאמרי: מכירים את הנושא. פנינו למטא בנושא, לא שעו לפניותינו, ואז אוכל לבוא בטענות למטא, פלטפורמה כל כך גדולה שאין אדם אחד בממשלת ישראל שמרים להם דגל, אז מה אני רוצה מהם בכלל?

נמשיך את הדיון הזה וגם ניתן לכם להתייחס. אשמח שתנצלו את הזמן הזה שרה ויהודה – אשמח שבמהלך הדיון שממשיך תבדקו את האירוע הזה שמדובר עליו כי זה חמור ביותר. זה לא דבר רגיל. אנחנו אחרי אירועי 7.10 אנחנו מדינה מדממת. לא ייתכן, שסרטן כזה ברשתות שקורא לרצח וזה פשוט מתרחש באין מפריע. זה הזיה. גאיה, בבקשה.

תודה רבה וליו"ר הוועדה על הדיון החשוב. אני ראש תחום מדיניות ורגולציה במכון המחקר SNPI. יש פה שתי סוגיות, שאחת מאוד לא חדשה ואחת היא יותר חדשה, הסוגיה של רגולציה על רשתות חברתיות ועל תוכן באינטרנט ועל מה עוצרים ועל מה לא עוצרים. כפי שראינו בחומרי הרקע שנשלחו לנו – הרבה מהתוכן הזה בכלל לא בינה מלאכותית. אנו נחשפים לטקסטים, לתמונות ישנות. הסיפור של פייק ניוז ושל הפצה והסתה הוא הרבה יותר רחב ואין ספק שצריך לתת לו את הדעת אבל השאלה אם יש משהו שהוא עד כדי כך חדש ודורש התייחסות שונה וחדשה כי הטכנולוגיה יחסית חדשה.

ברמה האישית בקבוצת הווטסאפ המשפחתית שלנו הוויכוחים על תמונות שצצות והאם הן אמיתיות או לא – השבוע היה לנו ממש דיון עיקש על האם תמונה של כלב שעטוף בדגל ישראל אמיתית או מזויפת. הוכח שהיא מזויפת כי לכלב הייתה אצבע נוספת וזה מסגיר את זה אבל ככל שהטכנולוגיה תלך ותתקדם לי כצרכנית של תוכן יהיה הרבה יותר קשה להפעיל שיקול דעת ולהבין האם התוכן הזה נכון או לא. פה השינוי הגדול ביכולת, באמינות. כמו כל טכנולוגיה חדשה, ההשוואה יכולה או צריכה להיות כמו השוואה לגילוי האש. יש פה משהו חדש שבמובנים רבים יכול לשפר את העולם מאוד. גם דיפ פייק משמש לתרגום של סרטוני הסברה ישראליים לעשרות שפות בדקות ומאפשר לנו יצירתיות מאוד גדולה ולהתרגש מחדש משירים של הביטלס. יש פה טכנולוגיה שרוב הזמן ולא בזמן מלחמה היא טכנולוגיה שמקדמת ומשפרת את העולם אבל בשימוש בידיים הלא נכונות, בשימוש למטרות שליליות ועל ידי אנשים שמטרתם רעה, טכנולוגיה טובה יכולה לעשות שימוש רע. כמו באש אנו רוצים ליהנות מחומה, מבלי שתשרוף אותנו. ההשוואה הרלוונטית עכשיו בגלל זמינות הטכנולוגיה היא שעכשיו לכל ילד יש גישה לגפרורים בקיוסק. כך ההסתכלות צריכה להיות. אנו ברגולציה של סיכויים סיכונים. איפה אנו כמה שיותר נותנים מקום למקומות החיוביים של הטכנולוגיה וכמה שיותר נזהרים ומנהלים את הסיכונים השליליים שלה והשיחה יכולה להיות מאוד פרקטית של איפה אנו שמים את כללי המשחק באש כדי לא להישרף.

העולם מנהל את השיחה הזו הרבה זמן. אנו מצטרפים אליה די לראשונה. בארצות הברית כבר כמה שנים - לא ברמה הפדרלית אבל ברמת המדינות התחילו להתעסק בסוגיה הזו. אגב היא בעיקר צצה סביב השימוש בפורנוגרפיה ובניצול נשים שזו גם סוגיה מאוד דרמטית בשנים האחרונות. התחלנו לראות חוקים שמקדמים את זה.

יש הצו הנשיאותי מאוקטובר האחרון שהטיל חובה לסמן.

עדיין לא הטיל חובה – התניע את העבודה לבדוק את זה וזה משני כיוונים – אחד, טכנולוגיות. הרבה מדינות משקיעות בטכנולוגיות שעוזרות למטר. את זה גם עדיין לא עשינו, ומצד שני חובת הגילוי, חובת השקיפות. זה אנו רואים גם באירופה. הזכות שלי כמשתמשת – אפרופו הוויכוח בווטסאפ המשפחתי, לדעת האם מה שנחשפתי אליו אמת או לא. זה אחד הדברים הכי דרמטיים – גם תהילה אמרה – הכי פשוטים שאין סיבה לא להתקדם איתם. סין לקחה את זה הרבה יותר רחוק. בינואר 23' העבירה את החוק הכי מקיף היום לדיפ פייק, והם ממש מטילים אחריות על אותו צרכן, שמייצר את התוכן, גם על הפלטפורמות, גם על ההפצה. יש ממש מקרים שבהם אסור לעשות שימוש בדיפ פייק. סין היא דוגמה למדינה שלקחה את זה מאוד רחוק כמובן עם הקונטקסט החברתי תרבותי הסיני.

בעצם השיחה הזו צריכה בעיקר להתחיל להתנהל. אנו צריכים לקבוע את כללי המשחק, לקבוע אותם עכשיו, להחליט האם האחריות היא על הפלטפורמה או על המשתמש, האם אנו אוסרים במקרים מסוימים, האם אנו מטילים חובת גילוי, חובת סימון. זה החלטות מאוד פרקטיות שכל מה שקורה עכשיו זה ההזדמנות שלנו להתחיל לנהל את הדיון הזה וזה המסר הכי חשוב.

תודה. שרת ההסברה לשעבר, תודה שאת מכבדת אותנו בנוכחותך. אני מניחה שראית את עומק האתגר ההסברתי שמתקיים במדינת ישראל. כמה דקות ונעבור לחבורת הטכנולוגיה. הראשון ידבר נציג מייקרוסופט. אני מבקשת – דרור זעזע אותי. הזדעזעתי. זה באמת חיי אדם. בבקשה, חברת הכנסת דיסטל.

קודם כל אני מודה לך חברת הכנסת פרקש על הדיון הסופר חשוב הזה והמאוד מרשים ומקצועי. הקשבתי לתהילה, גם כתבתי לה בפתקון, שהיא מדהימה. ידע כזה, זה שובה לב.

קודם כל, כדי לדכא את כל הנוכחים עוד יותר – מדברים על AI ועל דיפ פייק ועל טכנולוגיות זיוף. ההסברה הפלסטינית, גם הלגיטימית, היא כה טובה ומדויקת. אנו בעידן האבן לעומתם. הם לא במרחב בכלל של שואו אלא של טל שזה אומר שהם לא עושים סרטונים על אנחנו מדוכאים, אנחנו כבושים, הנה הקלגס הציוני. הם גם מתרגטים את זה בצורה מאוד חכמה על אופנה, אוכל, על נושאי איכות חיים שאנשים שלא קשורים לסכסוך הישראלי פלסטיני, כן ייכנסו לסושיאל מדיה כדי לראות. למשל, אתן סרטון אחד שנחרת בראשי על בחורה שמתארת את האופנה הפלסטינית – סרטון מרהיב, בחורה צעירה, מבטא אמריקאי מתוקתק, איך היא מבשלת בבית את הצבעים, איך נשים מבוגרות יושבות ואורגות כשמה שמהדהד ברקע לא נאמר במפורש, אבל מהדהד, ולכן גם הרבה יותר אפקטיבי, שהאויב הציוני לא מאפשר להם לייצר בתעשייה אז הן ירוקות והן אורגניות ובנות קיימא ואוריינטליות. אתה רואה סרטון אופנה מרהיב ביופיו שמתורגט לכיס של כל בחורה בקולג' מברלין ועד ניו יורק. זה שנדע מעבר למלחמה הקשה שיש לנו עם AI יש לנו גם מלחמה מאוד קשה עם הסברה הרבה יותר מקצועית, ופה חשוב לי לומר משהו שהבטחתי לעצמי שאהדהד בכל מקום מהיום שבו הנחתי את התג של שרת ההסברה והפכתי חברת כנסת.

המערכות – וזה מאוד מתכתב עם מה שתהילה אמרה – אנו מדברים על חקיקה, מדברים על סוג של רגולציה מול ענקיות הסושיאל ובכלל. אין לכם מושג, איך נראה בשר הנקניקייה. ברגע שאתה נכנס לעובי הקורה שום דבר לא מתוכלל. אף מערכת לא מדברת עם אף מערכת אחרת. שימו לב – יש מערך ההסברה, יש מטה ההסברה, יש המחלקה הדיפלומטית במשרד החוץ, יש הלוחמה ב-BDS במשרד לתפוצות ויש משהו כמו אלפיים ארגוני הסברה אזרחיים פרו ישראליים שלא מדבאים אחד עם השני. אם מישהו היה עושה מערך אינטרדיסיפלני שמדבר גם עם מערכות הסייבר, גם עם משרד הכלכלה, גם עם ישראל דיגיטלית, גם עם הפרקליטות, גם עם כל מערכי ההסברה - אם היה צוות שיושב ומתכלל הכול - הדברים האלה היו נפתרים הרבה-הרבה יותר בצורה יעילה ולפני הרבה מאוד זמן.

הבעיה שלנו היא בירוקרטיה אטומה ולא מתוכללת, כשאין אף שוטר או גורם אחרי שמתכלל ביניהם וזה נוגע גם לנושא הזה.

תודה. הדברים האלה ידועים. אמונה ראש מערך הסברה- -

אף אחד לא מדבר איתו. יש פוליטיקה פנימית. הכול אטום כל כך.

בבקשה.

אני חייב לשאול – אנחנו אחרי עשור ומחצה של רשתות חברתיות שפועלות בישראל באין מפריע ללא רגולציה. אנחנו גם עשור ומחצה של אותה ממשלה, אותו ראש ממשלה, אותה מפלגה. לדעתך, האם העובדה שעדיין אין רגולציה במדינת ישראל על הרשתות החזקות האלה, היא תוצאה של אי הבנת החומר, מחדל או כוונה? כי אנו יודעים מי נעזר ברשתות האלה מצוין – פוליטיקאים. למה שפוליטיקאים יסנדלו את כלי העבודה שלהם עצמם?

אני חושבת שזו ראייה מאוד לא הוגנת בלשון המעטה. פוליטיקאים ואני יכולה להעיד אישית – אני מטורגטת כל הזמן על ידי בוטים ואני מאוד סולדת מעניין הבוטיזציה הזאת. הימין שולח לשמאל, השמאל לימין. מעולם לא שלחתי לאף אחד אבל זה משהו שגם הפוליטיקאים מאוד סובלים ממנו. כימנית, הרשת געשה מאוד כי לפעמים מה שאנו ישראל מרגישים כלפי העולם זה המון פעמים מה שימנים הרגישו בישראל. הרגשנו אנדרדוג גם ברשתות החברתיות, ניסינו לעשות, לייצר. זה נתקל כל הזמן שאני לא מספיק פגיעה לומר לך מה זה.

תודה. חייבים להתקדם. ההסבר פשוט. דרור, זה לא תקין. מדובר בעוד נושא מני רבים שלא מטופל.

בדרך כלל זה פולישוק ולא בית הקלפים.

תודה רבה. נציג מייקרוסופט, בן חקלאי. בבקשה. הדיון מרתק, הוא מדאיג ביותר. נקווה שדברים ישתנו בעקבותיו. בבקשה. אם אפשר גם קצת נתונים על מה קורה כרגע, בפרט זום אין על ישראל. נציג מטא, אני מצפה ממך לבשורות עד תורך. תנצל את הזמן.

תודה רבה וברכות על הדיון החשוב. גם אני וגם עו"ד הילה היבש שנמצאים פה מטעם מייקרוסופט כדי לדבר ולהאיר את אזור השקיפות שדובר עליו גם על ידי תהילה וגם על ידי דרור חשוב כי מאפשר כל מה שמגיע אחרי, והבינה המלאכותית והבינה המלאכותית היוצרת בפרט נמצאת היום בחלק אינהרנטי בחלק מהחיים שלנו, בקצות האצבעות של כולנו ומשפיעה מאוד לטובה על חלקים מסוימים בחברה האנושית ויש לה גם פוטנציאל שלילי שצריך לדעת לנהל אותו ולתכלל אותו. אין ספק שמדובר במסע מורכב. אנו במייקרופוסט נמצאים כ-15 שנה במסע הזה לאתיקה בבינה מלאכותית לרבות אזורי שקיפות ואחרים ואני מציג את השקף הזה רק כדי להראות עד כמה זה דרש מאתנו תכלול מאוד מסיבי בארגון, מרמת המנכ"ל לאחרון המהנדסים שמטפלים בטכנולוגיות האלה. חייבם להיות בסוד העניינים ולדעת ולהבין את כל שרשרת קבלת ההחלטות ולאן אנו רוצים להגיע. זו נקודה כחלק מדיון יותר רחב גם על התפיסה הלאומית שצריכה להילקח בחשבון כשבאים לדבר על העולמות העולה.

במייקרוסופט אנו מדברים בגדול על שישה עקרונות. היום נתמקד בגדול בעולם השקיפות, שהוא אזור מאוד חשוב לכל האזורים שדיברנו עליהם קודם. כשאנו מדברים על שקיפות, אנו מדברים בגדול על שני אזורים. פעם אחת אזור שבו המשתמשים צריכים לדעת שמשתמשים בטכנולוגיה שמונעת על ידי בינה מלאכותית. גם זה לא טריוויאלי. כשאני משתמש היום בכלי שמונע על ידי בינה מלאכותית, אני צריך לדעת זאת כמשתמש קצה. והאזור השני, כשאני מקבל תוכן אני רוצה לדעת האם נוצר על ידי בינה מלאכותית או איך הגיע לעולם. מה שיעזור לי גם לזהות אזורים בעייתיים.

דוגמה קצרה – קופילוט של מייקרוסופט שנמצא היום גם בעולמות הקונסומר וגם בעולמות האנטרפרייז - בצורה מאוד ברורה מראה לי שאני משתמש בבינה מלאכותית. ייתכנו טעויות, ייתכנו הזיות. יש אזורים שיש לשים אליהם לב ויותר מזה – אני נותן ליוזרים לבחור את רמת הסיכון שהם רוצים לקחת כלומר יש לי היום בתוך המודל אפשרות לבקש מענה שהוא יותר מדויק, יותר נקודתי עם פחות טעויות או מענה שיותר יצירתי, שפוטנציאלית יהיו בו יותר טעויות. מעבר לזה אני גם בתוצאות שמציג למשתמשים מפנה אותם למקורות המידע. איני רוצה שמשתמש יקבל מידע מהמודל ויסמוך עליו כאילו זו האמת הצרופה. אני מצרף מקורות שמהם מלקח המידע הזה כדי שהמשתמשים יוכלו ללכת ולבדוק ולוודא שאכן המידע הזה נכון ומדויק. אני עושה זאת בהנגשה מאוד פשוטה – לינק, תלחץ, תגיע, תוודא שמה שקיבלת כמענה נכון ותוכל לשאול שאלות המשך רלוונטיות.

אם אני משתמש ארגוני יש גם חשיבות לאבטחת המידע הארגוני שלי אז גם פה אני נותן עוד גילוי שקיפות למשתמשי הקצה שהמידע נמצא רק בתוך הסביבה הארגונית שלהם או גם שם וכו'.

האזור השני שנוגע באזורים שדיברנו עליהם וקצת יותר קרוב – הניסיון להבין את מקורות התוצרים שאנו רואים. למשל תמונות. פה יש להבין – מדובר במהלך תעשייתי רחב שכולל גם גורמים מדינתיים וגם בתעיייה כי אין פה יוצר אחד של מודלים ויוצר אחד של תכנים. צריך להיות מאוד מעוגנים בעובדה הזאת במציאות. יש היום כמות מאוד גדולה של מודלים של בינה מלאכותית, אבל לפחות הגדולים שבהם ניתן להגיע להסכמה בתעשייה לגבי הצורה שבה נוכל לתייג את התמונות הלאה. נוכל לכלול בהן מידע שנמצא כסוג של- -

בלשון עתיד?

כבר היום בתוך המוצרים שלנו – הנה תמונה שיצרתי אתמול בלילה, אנו רואים שהמודל עצמו כולל במטא דאטא של התמונה את העובדה שהיא נוצרה על ידי בינה מלאכותית – במראה זה מייקרוסופט דיזיינר ויותר מזה – כוללת חתימה דיגיטלית על התמנה שנוצרה כך שכלים חיצוניים יוכלו לדעת שזה אכן מידע- -

זה נוצר על ידי משתמש מייקרוסופט.

לא, זאת בינה מלאכותית.

אתה אומר שמי שיעשה משהו למשל באמצעות צ'אט GPT יהיה לו אותה חותמת ואותה שקיפות? מתי זה יקרה?

נכון, המטרה להגיע לשם. זה משהו שקורה כל הזמן. לדעתי כבר היום יש ווטר מארקים שנמצאים בחלק גדול מהתמונות.

זה מחייב?

יכול לדבר רק על מייקרוסופט. אצלנו זה כבר קיים. עדיין. יש עבודה שקורית. רוצים לוודא שהחתימות האלה יהיו גם מאובטחות – כלומר שלא ניתן יהיה להוריד אותן ולשמור את כל התמונות האלה על הלג'רים וכו' וזה מתקדם כי יש גם חתימות קול. אנו מגיעים לעולם שבו בינה מלאכותית יודעת לייצר קול אנושי לחלוטין, יכולה לייצר גם דמי של קול של סלבריטי, חבר כנסת. אנו רוצים לוודא שיהיו הכלים שאפשר יהיה לזהות שהמידע הזה אכן נוצר על ידי בינה מלאכותית ולא מדובר במידע שנוצר על ידי אדם. נכון, הכלים האלה עדיין בתחילת הדרך כי דורשים שיתוף פעולה. פה למשל אדובי ומייקרוסופט ושותפים אחרים נכנסו לשיתוף פעולה ועובדים במסגרת יוזמה יותר רחבה עם תקן מוסדר שתופס תאוצה בתעשייה, אבל זו עבודה שקורית, ותיקח עדיין זמן. זה קורה גם בתחום החדשות. גם היום רוצים לייצר על תשתית מצב שבו ממועד ייצור התוכן החדשותי עד מצב שבו משודר באותה רשת חדשות תהיה ודאות לגבי כל האמינות של התוכן הזה. למשל כל רשת חדשות תוכל לוודא שאכן התוכן שהיא מציגה הוא תוכן אותנטי. הדרך לעשות זאת – לייצור חתימה- - - שקורית במועד ייצור המידע הזה ולקחת אותו עד שלב הקצה, שזה שלב הפרסום של המידע. העבודה הזו קורית היום. כבר היום יש פתרונות שמאפשרים את זה. זה עדיין דורש שיתופי פעולה מאוד רחבים התעשייה בצורה יותר משמעותית.

דיברתי על קול.

אנחנו – זה צ'אט GPT?

אני מדבר על מייקרוסופט.

אבל מייקרוסופט קשורה קשר אמיץ בצ'אט GPT, תוכנת הבינה המלאכותית המשמעותית. כשאתה מדבר על כל זה, האם הם לקראת הטמעה בתוכנה הזו? אם לא, זה בסדר אבל זה לא קרוב למה שנדרש לעשות.

יש אין ספור מודלים בחוץ. כמויות אדירות כולל מודלים בקוד פתוח. אני לא יכול לדבר בשם כולם.

אבל אתה מדבר עם חברה שיש לה קשרי בעלות משמעותיים על התוכנה הזו. האם הדברים האלה נעשים בצ'אט GPT?

היום בצ'אט GPT משתמשים בכלים יחסית דומים למה שקיים ב- מייקרוסופט.

אבל אין משהו שהוא קורה בצורה אוטומטית טכנולוגית שכופה על משהו שמיוצר בבינה מלאכותית שיהיה עליו חותמת שיציר של בינה מלאכותית?

מכל הדוגמאות שראית במהלך הדיון אפילו לא דוגמה אחת יוצרו באמצעות כלים של מייקרוסופט או של אופן AI. לא יכול לדבר בשם חברה אחרת.

נתונים לגבי ישראל יש לך? או לגבי המלחמה, נתונים שרלוונטיים לדיון הזה?

פחות קונקרטיים לגבי המלחמה - אנו פחות בצד של פלטפורמה להפצת תוכן. אנו כן שחקן משמעותי ביצירת התוכן. אנו נמצאים בכל החזית של מה שקורה בתעשייה בכל ההקשרים של מתן גילויים נאותים ושקיפות למשתמשים שלנו ולמי שמשתמש בתוצרי העבודה שנוצרים בכלים שלנו כדי לוודא שהשימוש נעשה בצורה האחראית ביותר שניתן. זה לא מושלם. יש עוד עבודה.

כמי שמכיר את הטכנולוגיה – אתה נציג של החברה המשמעותית ביותר ברמה הטכנולוגית. מה צריך לעשות? מה חסר? מהצד שלנו אנו חושבים שאנו יודעים מה חסר. האם אתה שותף לקריאה הזו שלנו, לוואקום הנורא שיש פה?

חד משמעית כן. אני חושב שצריכים להיכנס פה למודלים יותר משמעותיים של שותפויות בין הסקטור הפרטי לזה ממשלתי. יש הרבה יותר מקום לשותפויות מהעולמות האלה שאנו מתחילים לראותם לראות אותם למשל באזורי הסייבר.

אני רגולטורית בעברי, ותחום הטכנולוגיה מאוד מתאים לרגולציה עצמית, ואני חושבת שכשכולם יודעים מה צריך לעשות ורק יש לעשותו הייתי מצפה מחברות פורצות דרך כמו מייקרוסופט ואחרות שבדיון הזה, שמזמן ייקחו על עצמן לעשות את הדברים האלה ולא יחכו לממשלה שתכפה עליהן לעשותו, ושלא ימתינו לממשלה שתייצר איתם שיתופי פעולה, כי כמו ששמענו פה, אנו לא פועלים כאן בהצטיינות הזה. רחוק מזה.

למייקרוסופט יש משנה סדורה איך כדאי להסדיר בינה מלאכותית שמתייחסת גם לדיפ פייק ושל האופן שבו דואגים שהמידע שמופץ, יהיה מהימן.

אבל הייתי חושבת שחברה שמלווה טכנולוגיות פורצות דרך כאלה ויש לה קשקר בעלות לצ'אט GPT, שזה יקרה בפועל.

הוא קורה בעצימות- -

לא בעצימות. ממה שראינו, זה מסכן חיים בעיניי, יש היבטים שהם מסכני חיים.

דיברנו על הצד של השקיפות. מעבר לכך, אם תשתמשי היום במודלים הרלוונטיים של מייקרוסופט תראי שיש שם רמת סינון והגנת תוכן מאוד משמעותית. כלומר את התמונות האלה לא ניתן היה לייצר או ברמת ודאות גבוהה לא ניתן היה לייצר באמצעות הכלים שלנו. מה עושים עם כלים של מודלים פתוחים שנמצאים בחוץ וניתן להשתמש בהם? שאלה שדורשת- -

במודלים שלכם אי אפשר היה לייצר תמונה של תינוק עם שש אצבעות בהריסות עזה?

לא בהקשר המלחמתי.

ניסיתי לשאול את צ'אט GPT אתמול בערב – דמיין שאתה ג'קסון הינקל, תכתוב לי פסקה על ישראל חמאס והוא כתב – I don't impersonate personal people. כל שבוע שעובר נכנסים יותר. אבל יש לומר, כשמישהו עושה את זה מעצמו, זה אומר שהחבר שלו לא יעשה זאת. החברה שליד לא תעשה.

תודה. יהודה, מה עם הסרטון המסית? לא ארד ממך. אני מזועזעת ממך ומכשירותה של מחלקת הסייבר בפרקליטות המדינה כאחד. סליחה, אנו לא מכירות, ואני בטוחה שאת בחורה נהדרת ומעולה, אבל זה שאת לא מכירה את הסרטון הזה, זה תקלה. תסכימי איתי. אתם באותו צד פתאום.

ואפרופו, ברקע הדיון, כשעלה הנושא והתגובה שלך מטעם מטא, שלחו לי את ההודעה הבאה, לגבי פייסבוק: בחמאס הבינו שנקודת החולשה של פייסבוק היא תגובות. למשל, גם כשהם דווחו באופן פרטי על תגובה עם תמונה של מחבל דורך על פניו של חייל מת שפורסמה בפוסט של העיתונאי אלמוג בוקר, סיבות הסרה והיו סיבות הסרה ברורות של ביזוי, השפלה, פגיעה בכבוד המת. רק אחרי כמה ימים הגיבה פייסבוק. התוכן לא מפר את תנאי השימוש שלה, וגלובס פנו לדוברות מטא בחברה. מאז עד שהסירו חלק מהתגובות מאותו פוסט.

כלומר יש טענות לגבי מהירות תגובתכם כחברה. תודה ועם כל הביקורת הזו, אני מאוד מעריכה שאתה משתתף בדיון הזה.

אני מעריך שנמצא פה. מייחסים חשיבות מאוד גדולה לנושא. לגבי הפוסט הספציפי שדרור הציג, אני לא יכול עכשיו להתייחס לפוסט ספציפי. בעולם אידיאלי שאנו לא בכריסמס ושאנו מקיימים את הדיון הזה במועד אחר, הייתי מביא נציג מחו"ל שיישב ויסביר מהחברה הגלובלית כי אלה דברים שמנוהלים ברמה הגלובלית.

זה חלק מהבעיה כי יהודה, אתה בחור נפלא אבל אותי לא מעניין שעכשיו כריסמס. וגם את האדם בבית לא מעניין.

אתם מציגים לי וידאו. אין לי ה-URL שלו אפילו.

ניתן לך. אל תדאג. אנחנו באותו צד.

דווח המון פעמים.

לא אומר שהוא חדש לנו. הוא חדש לי ולכן לא אוכל להגיב עליו מבלי שיהיה לי המידע. יהיה חסר אחריות להגיב כשאין לי המידע ומבטיח להגיב ולעשות פולו אפ על הנושא.

הסיפור הוא לא על יכולתו של הנציג הנכבד לטפל או לא אלא על המכונה שאינה פועלת ואינה מפוקחת. אנו כמדינה לא יודעים מה השיקולים של המכונה שלהם להסיר או לא, ואנו לא מפקחים על זה ולכן הוא לא יודע מזה, וזו הבעיה - המכונה ולא האיש.

אנו יודעים מה השיקולים, כללי הקהילה שלנו ברורים.

אנו מדינת ישראל לא שולטים בזה.

אני חד משמעית מצטרף לקריאה לחשוב איך אנו מתאימים פה מודלים של רגולציה גם שקיימים בעולם כי ודאי – אני לא חושב שאנו צריכים לעבוד בוואקום. זו לא אמירה חדשה. האעשה זום אאוט ל-AI כי בכל זאת נערכתי לדבר על זה- -

חייבים להתכנס לחמש דקות. אתם פלטפורמה כל כך מרכזית. אני מנסה להיות מנומסת, אני מהמחנה הממלכתי, אבל התשובה אנו בכריסמס היא לא מתאימה. הרי אם יש לך עניין עסקי, זמני התגובה שמצופות ממך הן אפסיות והחברה הזו מתנהלת ברמה גבוהה. אותה רמה שאנו מצפים שתתנהל בפנייה מהסוג הזה.

עד לפני דקה לא היה לי ה-URL. אני רוצה לענות לכם מידע ולא מחוסר ידע. גם בנושא של AI חושב שנכון מאוד גם לעסוק בנושא וגם לחשוב על האסדרה הנכונה ברמה המדינתית והחקיקה. הצוותים שלנו גם ב-DSA שתהילה הזכירה, שזה החקיקה האירופית על פלטפורמות דיגיטליות וגם ב-AI ACT שזה משהו שנדון בימים אלה, אושר ברמה העקרונית. עוד צריכה להיות הרבה עבודה, מי כמוך יו"ר הוועדה מכירה את הנושא של עבודה על חקיקה. הצוותים שלנו מעורבים, תורמים מהידע, מגיבים ונשמח להיות חלק ממהלכים מסוג זה ונשמח להיות בקשר.

לגבי מה שאמר החבר ממייקרוסופט, יש חשיבות גדולה גם לסטנדרטיזמיה והרמוניזציה בין הפלטפורמות השונות. יש לזה משמעות גדולה כשאנו באים לדבר על איך אנו מתייגים, מזהים, מטמיעים בתוך הדברים שבינה מלאכותית יוצרת אלמנטים שיאפשרו לתייג אותם ולזהות אותם.

אני רוצה לדבר על AI בעוד הקשרים. בגלל איך שהשיח על AI מתנהל היום ובגלל הפופולריות של GENERATIVE AI, אנו לא מדברים עלAI אלא על GENERATIVE AI. AI זה הרבה יותר מ- GENERATIVE AI. בהקשר הזה AI הוא חלק מהפתרון. ברור לכולם שאם יש- - - מיליון משתמשים בפלטפורמה מסוימת וזה אומר שעולים בה מאות מיליארדי פיסות תוכן מדי יום, כדי להיות אפקטיביים, ודיברת על מהירות תגובה – וכדי לנסות להיות מדויקים אנו צריכים לשפר טכנולוגיות כמו AI שיהיו חלק מהפתרון כדי לאכוף בצורה טובה יותר את כללי הקהילה ולהגיב לטענות על תכנים שמפרים את החוק. לכן יש פה שיח שלם שצריך לעשות גם על מערכות AI שהן חלק מהפתרון, ולא רק מייצרות אתגרים. ככל שהטכנולוגיה שמייצרת לנו אתגרים תשתפר גם הטכנולוגיה שמאפשרת לנו פתרונות תשתפר. אנו בחברת מטא עוסקים המון בצד הפתרונות ולא רק בצד היצירה.

התייחסות אחרונה לנושא של אסדרה וחקיקה. אסדרה וחקיקה בישראל זה דבר מאוד חשוב. אני רק חושב – גם תהילה התייחסה לזה ובטוח שדרור מסכים - כיוון שהתוכן שמטריד את אחיה וחבריו ואותנו והדברים שאנו רואים על הפלטפורמות לא נצרכים רק בישראל, אנשים לא צופים בהם רק בישראל, אנשים גם לא מיוצרים רק בישראל. לכן חקיקה בישראל לאו דווקא הפתרון האידיאלי. כן אנו צריכים לחשוב על מהלכים בין לאומיים שכוללים הרמוניזציה של רגולציה בהקשרים האלה. תודה.

זה הדיווח מטעמכם, האם ניטרתם? האם אתם רואים מגמות בתקופת המלחמה, האם אתם רואים תנועה מוגברת של הסתה הפייסבוק לאור המלחמה? אתה בא ממטא ישראל ודיברת דברים מאוד יפים על הרמוניה. אני לא יודעת. היה נשמע לי מאוד-מאוד באוויר. אתה יושב פה שעה בדיון, בפרק הזמן הזה חזרת עם סיסמה של עוד לא למדתי את הסרטון. ציפיתי לקצת יותר נתונים ואמירות יותר. מה התשובה לטענה שקיבלתי לפניות על בעיות קשות במהירות התגובה של פייסבוק, על זה שצריך להפעיל כמעט לחצים ואפילו איומים כדי שיגיבו לפניות אליהם? אתה מכיר את זה?

קודם כל התייחסתי גם לזה במסגרת התשובה שלי כשדיברתי על היכולת לשפר מהירות ודיוק גם באמצעות כלים של בינה מלאכותית באכיפה. פרסמנו בצורה מאוד שקופה ותדירה גם בוועדות קודמות וגם בצורה פומבית את המאמצים שלנו סביב ההסלמה בישראל שכוללים גם מספרים מדויקים על כמות התוכן שהוסר. לא רוצה לומר כי לא שיננתי בעל פה אבל נתונים שפורסמו לפני מספר שבועות על מיליארדי פיסות תוכן. זה פומבי – נמצא באתר שלנו. אשמח לבדוק ולשלוח לוועדה כפי ששלחנו לוועדות כנסת אחרות את המידע הזה. פרסמנו גם את המאמצים שאנו עושים פנימית, גם עוד שינויים במוצר שעשינו כדי לאפשר הפחתה של חלק מהדברים האלה. הפעילות עצומה, בשיתוף פעולה גם עם רשויות המדינה. הנתונים שהפרקליטות ואחרים מפרסמים מראים שאנו מגיבים בצורה מאוד טובה.

תודה. ליאת גלזר מגוגל. ברוכה הבאה. בבקשה. להתכנס לחמש דקות בבקשה. אם תוכלי להזכיר – גוגל היא לא רק גוגל, היא גם כלים של בינה, ותרחיבי. תודה.

תודה על ההזמנה ולדבר בפני הוועדה. אני מרגישה שטוב ששמו אותי בסוף הדוברים. אדבר על גוגל בשני מובנים – כחברה שמפתחת ומייצרית כלים של בינה מלאכותית ועל גוגל כפלטפורמה. רק אומר כפתיח, כי עלה פה ולא בהכרח ידענו שיהיה נושא הדיון אבל גם גוגל כמו כל חברות הטכנולוגיה הרב לאומיות האחרות, עד 7.10 הקימה חמ"ל – קוראים לזה טאסק פורס בגוגל – יש צוות שכל תפקידו לטפל בנושאים ובדיווחים שעולים כתוצאה מהאירועים ומהמלחמה בין אם זה נושאי תוכן ובין אם בקשות שמגיעות מרשויות המדינה לא בהקשרי תוכן אלא בהקשרים של כלים אחרים של גוגל. בהחלט יש עבודה מאוד אינטנסיבית, בכל זמן שצריך בשביל לתת מענה.

אתחיל בנושא של גוגל כגורם שמייצר בינה מלאכותית. בדומה למייקרוסופט, גוגל לא חדשה בזירה הזו והכלים שלה בתחום בינה מלאכותית קיימים עוד לפני עולם הג'נרטיב AI. לגוגל יש מדיניות וכללי אחריות בבינה מלאכותית מזה מספר שנים. כפי שאמרת חברת הכנסת פרקש, יש מהלכים מדינתיים לרגולציה אבל החברות כבר שם. החברות הרציניות והאחראיות קבעו לעצמן סט כללים וגם לגוגל יש כללים. הם מפורסמים – חלקנו אותם בוועדה בדיון הקודם שקיימנו סביב נושא הרגולציה. חלק מהכללים האלה נכונים גם לדיון שאנו מקיימים היום על השימוש בכלי בינה מלאכותית למטרות שליליות, נקרא להן. המדיניות שלנו כמובן שאוסרת הטיה בלתי הוגנת, יש לנו צוות אדום שבודק את הפיתוחים החדשים של החברה. ספציפית בנושא של ג'נרטיב AI גם בכלי המלל שלנו, שזה בארד, בדומה לצ'אט GPT, יש אפשרות לקבל מידע על התוצאות שאתה מקבל, יש אפשרות להבין מאיפה התוצאה הזו הגיעה. גם אנו עובדים על כך שהג'נרטיב AI תהיה מוטמעת בחיפוש שזה אחד ממוצרי הדגל שלנו.

מה לוחות הזמנים לדברים האלה? או אתם מתעסקים בדברים כל כך הרבה יותר מורכבים מהסימון הזה – למה זה לא נעשה?

כרגע אנחנו מדברים על התוצאות של בארד ושל - - - יהיה בחיפוש. זה ביישום. זה עובר, מגיע למדינות בהתאם ללוח זמנים. גם עניין של שפות כפי שדיברו אבל כן משהו שיהיה זמין בכל השפות ולכל המשתמשים.

כשאת אומרת שיידעו מי יצר את זה – זה יהיה ברמה של- - -

לא אמרתי את זה. בארד ודומיו, היום אתה מכניס שאילתה ומקבל תשובה. להבדיל מהחיפוש שהוא כלי החיפוש העיקרי שלנו שאתה מכניס שאילתה ומקבל תוצאות. היום אתה מכניס שאילתה ומקבל תשובה. היום יש לך אפשרות – לא למי יצר אלא מה המקורות שמהם נבנתה התשובה שקיבלת. זה בנושא של מלל. יש לנו גם כלי שפותח לאחרונה, שהוא כלי לסימון תמונות. סימון - הכוונה לא לווטרמארק שאתה שם על התמונה ומישהו עושה לזה – אלא משהו שהוא מוטמע במטא דאטא של התמונה, כדי שאחר כך מישהו ייקח אותה, יעשה עליה מניפולציה, יעביר אותה לעוד אלפי אנשים - בסוף יידעו שזה נוצר בכלי בינה מלאכותית של גוגל. זה חלק מתפיסת עאחריות של גוגל עם חברות נוספות כדי לייצר את הטכנולוגיה בצורה בטוחה.

עוד דוגמה, זה מעביר אותנו מהעולם של הכלים שגוגל בעצמה מפתחת לדברים שפחות בשליטת גוגל. גם בחיפוש, אם אתה מחפש תמונה יש לך אפשרות לקבל תמונה – יש שלוש נקודות שאפשר ללחוץ ואז אפשר לקבל עוד מידע על מתי נוצרה התמונה הזאת, איפה עוד מופיעה ומקבל קונטקסט שיכול לעזור באוריינות שלך כדי לנסות להבין אם מדובר בתמונה אמיתית או בתמונה שהיא יצירת מכונה.

לגבי גוגל כפלטפורמה, הפלטפורמה העיקרית שלנו לשיתוף תוכן גולשים היא ליוטיוב. רק לאחרונה לפני כמה שבועות פרסמנו בלוג עם הנחיות חדשות וכללים שאנו מפרסמים ביוטיוב כדי לחייב יוצרים, יוטיוברים – אצלנו עכשיו קוראים לזה יוצרים, לסמן אם הם עשו שימוש בתוכן שנוצר בבינה מלאכותית. הם בעצמם מסמנים את זה בהעלאה ואז יש לזה חיווי מסוים בווידאו עצמו, תלוי בתוכן או על הווידאו עצמו או במידע שנמצא למטה. יש לנו גם כלי אכיפה לזה, כלומר זה חלק מהמדיניות שלנו שהיוצרים צריכים לעמוד בה. מעבר לזה, מדיניות התוכן הכללית שלנו, כללי הקהילה אוסרים כל מיני סוגי תוכן – היינו פה בדיונים בוועדות אחרות בנושאים של אנטישמיות, נושאים של הסתה, של טרור. יש לנו מדיניות שאוסרת את כל סוגי התכנים האלה בלי קשר לשאלה מה יצר את התוכן, בין אם זה בינה מלאכותית ובין אם זה אדם.

ספציפית לגבי תכנים שקשורים לבינה מלאכותית, יש במדיניות המידע המוטעה שלנו, אנו אוסרים על תוכן שעבר מניפולציה דיגיטלית, מניפולציה טכנית או עיבוד באופן שמטעה את המשתמשים. למשל זה יכול להיות כתוביות וכל התמונות- -

מה זה אומר? כשיש לכם מדיניות שימוש שאומרת: אסור להשתמש בתוכן שהוא על ידי AI באופן מטעה, מה זה אומר? מותר להעלות תמונה של ילד עם שש אצבעות? מה זה תוכן מוטעה?

זה אומר שסרטון לא אמיתי שנחזה להיות אמיתי הוא תוכן אסור בפלטפורמה של יוטיוב. למשל דיפ פייק.

האם השתמשתם בכלל הזה במסגרת המלחמה הזו כיוטיוב?

לי אין נתונים על מקרים ספציפיים שקשורים לישראל מאז 7.10. היה מקרה של סרטון של המלכה ראניה מירדן – הופיע בתקשורת – דיפ פייק שבו צידדה בממשלת ישראל, והוסר מהפלטפורמה שלנו ביוטיוב בהתאם למדיניות הזו. יש עוד תת סעיף למדיניות שזה תוכן שמיוחס באופן לא נכון, וזה דוגמאות גם שעלו פה, שמראים תמונה מרעידת האדמה בטורקיה ואומרים שזה מהפגזה של צה"ל בעזה. זה גם תוכן שאסור בפלטפורמה שלנו.

אחזק את מה שאמר חברי יהודה מפייסבוק לגבי השימוש ב-AI כדי לזהות ולנטר תכנים. כל יום בדקה אחת מועלות 500 שעות תוכן ליוטיוב. זה מסה עצומה. אי אפשר להתמודד עם זה- -

אפשר לייצר כלי בינה מלאכותית שינטר את העניין הזה ביוטיוב.

לכן עושים שימוש בכלים של בינה מלאכותית בשביל לנטר ועל זה אשים כוכבית. למכונה יש הרבה יתרונות. אבל מכונה לא תמיד יודעת קונטקסט. אפשר ללמד אותה קונטקסט אבל צריך ללמד אותה יש דברים שאנו אוסרים במדיניות. למשל סרטונים של חמאס אנו לא מאפשרים בפלטפורמה שלנו סרטונים של חמאס או ערוצים של חמאס אבל אם דובר צה"ל או ערוץ 12 יציגו את זה במסגרת דיווח חדשותי, ברור שיש כללים, ואת הקונטקסט הזה לא תמיד המכונה יודעת ולכן המכונה יכולה לומר: יש פה משהו ואדם צריך להסתכל.

תודה רבה. נעבור לנציגים הממשלתיים. יש פה נציג משרד החדשנות, עו"ד דני חורין, לשעבר היועץ המשפטי של משרד החדשנות – אני לשעבר. אתה לא לשעבר. אתה היועץ המשפטי של משרד החדשנות, יועץ מצוין. יש עו"ד שרה גרין ממחלקת הסייבר בפרקליטות המדינה. הקשיתי עליך על האירוע שהציג פה דרור גלוברמן אבל בסוף אתם כרגע בחוד החנית יחד עם מערך הסייבר, ורועי פרידמן ממערך הסייבר. אולי נתחיל בך דני. ממש בשתי דקות, אני כשרת החדשנות, הוצאתי לראשונה במדינת ישראל כללי אתיקה בבינה מלאכותית. זה היה לפני השיגור לירח של צ'אט- - - ובארד וחידוד הסיכונים בבינה מלאכותית. זה היה גם לפני התקדמות החקיקות האלה. זה לפני קצת יותר משני וחצי. סוף-סוף בשעה טובה הבנתי שהסתיימה העבודה שהתחלתי בה ופרסמו כללים. אשמח שתאמר עליהם כמה מילים ברמה טלגרפית, ממש בקצרה, שאולי רלוונטיים לעניין כי אני לא מצאתי חובת סימון או דברים שבכנות – לו הייתי עדיין שרת החדשנות לא הייתי לא מביטה על הסוגיה הזו והייתי קובעת חובת סימון. בבקשה. בכל מקרה, טוב שקצת התקדמתם.

אהיה מאוד קצר.

במחצית דצמבר פרסמו משרד החדשנות והמחלקה הכלכלית בייעוץ וחקיקה את גרסתו הסופית של מסמך מדיניות הרגולציה והאתיקה של הבינה המלאכותית, לאחר ששר החדשנות אימץ ואישר את המדיניות המוצעת.

העבודה על המסמך החלה בתקופת כהונתך כשרת החדשנות, וטיוטת המסמך וטיוטת עקרונות הרגולציה שלך כשרה, פורסמו אז להערות ציבור.

לאחר שמיעת הערות הציבור ובחינתן הושלם המסמך לאחרונה, ואנו מקווים שתקודם בהקדם החלטת ממשלה שתאפשר את אימוץ המדיניות על ידי הממשלה והנחיית הרגולטורים בהתאם.

אציין כי הייתה לנו בשלב ראשון התלבטות אם נכון לפרסם את המסמך בתקופת המלחמה, אבל דווקא השימוש שנעשה בבינה מלאכותית ברשתות החברתיות, כפי שעלה גם כאן, חידד את ההבנה שחשוב לקדם את הנושא.

עיקרי המדיניות – ממש בקצרה – האמירה המרכזית שלנו זה שכרגע לא נכון שיהיה חוק בינה מלאכותית כללי ונכון ללכת לעולמות של רגולציה ענפית שמבוססת על הסיכונים הנשקפים מסוג הטכנולוגיה ומהשימושים הספציפיים. נכון שהרגולציה הענפית תטען ככל הניתן את הרגולציה במדינות המובילות בעולם בתחומים האלה והמבחינה הזו לעדכונים ולשינויים שיש בעולם בהקשרים האלה ודאי שתצטרך להיות משמעות. הרגולציה צריכה להיות במידת האפשר גמישה, מהירה, ולעשות שימוש בכלים רגולטורים מתקדמים, כדי שניתן יהיה להתמודד עם השינויים הרבים בתחום. הרגולציה נכון שתהיה עד כמה שניתן גמישה, מהירה, תעשה שימוש בכלים רגולטורים מתקדמים, כדי שניתן יהיה להתמודד עם השינויים הרבים בתחום. חודדה החשיבות המיוחדת בתחום זה של שיח מתמיד בין כל הגורמים הרלוונטיים, וגם של המעורבות האקטיבית בפורומים הבינלאומיים העוסקים בגיבוש הרגולציה. חודדה חשיבותו של מוקד ידע ממשלתי, שיידע גם ללוות ולסייע את הרגולטורים הענפיים, גם לגבש מודל לניהול סיכונים בתחומים השונים, גם יהיה גורם אקטיבי בפורומים הבינלאומיים ואולי הכי חשוב – יידע לעדכן ולהמליץ לממשלה אם נכון את מדיניות הרגולציה.

זה לא נמצא כרגע במסמך כי לא רצינו לעכבו, אבל בשיח, שהחל להתקיים בהקשרים האלה אצלנו עם משרד המשפטים וגורמים נוספים, כן הייתה הבנה שאולי יכול להיות שחריג להיבט של החקיקה הסקטוריאלית צריך להיות נושא הגילוי, ושנכון לשקול רגולציה לגביו.

תודה רבה. דני, תודה על העבודה החשובה שאני יודעת שאתה אישית היה לך חלק מאוד גדולה בה אבל כשאנו רואים איזה שינוי קרה טכנולוגי, עוד מהיום שאני פרסמתי את הכללים האלה לשימוע, אני לא הייתי אחרי שנה וחצי אומרת: עכשיו אתחיל לשקול לבקש חובת סינון, ואשמח שתעביר את המסר זה. הקריאה שלי מפה שהדבר הזה היה צריך להיעשות אתמול, שלשום. ודווקא בזמן המלחמה ברלוונטיות שלו, ולבקש חובת סימון ושקיפות, זה הדבר המינימלי שצריכה הממשלה לקבוע, גם אם מאמינים ומקבלים את הגישה של רגולציה רכה שלא תחסום את ההתפתחות של הכלי של בינה מלאכותית. תודה רבה בכל אופן.

נעבור אליכם, הכוכבים, אנו רוצים לשמוע מכם בשורות. ממחלקת הסייבר בפרקליטות המדינה וגם נציג מערך הסייבר רועי פרידמן. דיברתי עם המנהל חיים ויסונסקי. הבנתי שלא יכול מסיבות אישיות להגיע, מנהל מחלקת הסייבר בפרקליטות. אתם עושים את העבודה הסיזיפית של לפנות לרשתות ברמה היום-יומית, ברמה השבועית לרוב ועד לאחרונה לא בהקשר מלחמה ולצערנו כעת גם בהקשר הזה. נשמח לשמוע מה אתם עושים, כשאני מבינה שאתם חיים בעולמות – תעשו לי טובה, תורידו משהו. אשמח שתדברי בגילוי לב. אתם עושים מה שאתם עושים עם הכלים המאוד דלים שבידיכם. ארצה לשמוע מה הכלים הדלים, למה אנו בעולם שבו אתם מבקשים בלי שום סמכות רק אנא תורידו, ומה ההמלצות שלך. תודה.

תודה. למעשה מחלקת הסייבר בפרקליטות אנו ראש חץ של כל גופי הממשלה בעניין פניות לפלטפורמות המקוונות בעניין הסרת תכנים בלתי חוקיים ברשת. מבחינת תהליך העבודה האחריות לאיתור, זיהוי ואיסוף התכנים הרלוונטיים נמצאת בידי גופי הביטחון במשרדי ממשלה נוספים, בין היתר מערך הסייבר הלאומי מעבירים לנו תכנים. הם אחראים על האיסוף והזיהוי. כל אחד בכליו ובתחומי המומחיות שלו. אחר מכן אנו – בפרקליטות אנו בוחנים את התכנים לפי נוהל העבודה שלנו שקובע שני תנאים מצטברים שצריכים להתקיים כדי שנעביר פנייה לפלטפורמות. התנאי הראשון הוא שהתוכן מהווה עבירה פלילית לפי הדין הישראלי, והתנאי השני שחייב להתקיים גם הוא - שאנו מבינים שהתוכן הפר גם את תנאי המדיניות, כל אחת של הפלטפורמה המקוונת, ואז אנו מעבירים פנייה וולונטרית ואומרים- -

כמה אנשים אתם בצוות הזה?

אנו ארבעה פרקליטים, אחד בצו 8, ועוד כ-12 מתמחים וסטודנטים שמסייעים לנו. זה הצוות שגם בשגרה. לסבר את האוזן, מבחינת היקף הפעילות שלנו, אם אתן נתונים השוואתיים, כפי שפרסמנו בדוח סיכום שנה של הפרקליטות ב-21' דיווחנו כ-6,000 פניות. מאז 7.10 דיווחנו על למעלה מ-30,000 תכנים. זו עלייה מטורפת. אנו עובדים 24/7.

איך אתם פועלים? רק לפי תלונות שמגיעות אליכם? איך למשל לא ידעת על הסרטון הזה שדיברו עליו פה?

אנו לא מאתרים את התכנים – אנו מקבלים מגופי ממשלה - משב"כ, מצה"ל, ממערך הסייבר הלאומי ועוד גופים קטנים שהגיעו אליו. במהלך המלחמה גם המשרד לשוויון חברתי פנה אלינו לגבי מספר תכנים.

ועל הסרטון הזה לא שמעת.

לא מכירה. אשמח להכיר את הסרטון. אפשר להעביר לנו.

אתם פתוחים לתלונות של דיווחי הציבור?

הציבור לא יודע עליהם.

בגדול הציבור הישראלי פונים אלינו כי אין להם מקום לפנות.

וגם לקו הסיוע של איגוד האינטרנט. לא רק אליכם.

החברה האזרחית. אלינו, אליכם. החברה האזרחית בישראל. מערך הסייבר התחיל מיזם מאוד יפה.

חשוב גם לציין שאנו מקבלים תכנים ממשטרת ישראל אז אם אזרח פונה למשטרת ישראל ונניח במקרים שבהם גם הוגשו כתבי אישום, לאחר הגשת כתב אישום מעבירים לנו את התכנים להסרה על הסתה ברשתות החברתיות.

מבחינת נושאי הדיון של תכנים או חשבונות יצירי בינה מלאכותית או יצירי מחשב, אנו בפרקליטות מגיבים לפניות של גופי הביטחון ויתר הגופים ולכן לעצם זיהוי התכנים כתנים יצירי בינה מלאכותית, לנו בפרקליטות אין יכולת לקבוע אם משהו יציר מחשב או לא – זה כלי טכנולוגי. מהמיקוד שאנו רואים מבחינת התכנים שגופי הביטחון מעבירים לנו, הם מתמקדים בתוכן ולא באופן יצירתו.

הם יכולים אבל.

לא יכולה לדבר בשמם.

יש מישהו שיכול לתת לכם תמיכה בעניין. זה לא שאתם לגמרי באפלה.

מבחינת מה שקיים כרגע, לא קיבלנו פנייה על תכנים. גם התכנים שהוצגו – ראיתי אותם, וכשהעבירו לי אותם יחד עם קריאות של הסתה או הזדהות עם חמאס. לכן דיווחתי עליהם – לא כי הם פייק אלא כי הם הסתה.

כלומר מה שאת אומרת, שכשאנו מדברים על איזה פינה שקשורה לחוסר הסדרה של אירועי טכנולוגיה במדינת ישראל, ואומרים: אין הבניין, אין השלד, מה את אומרת – אם משהו לא עולה כדי הסתה מאוד-מאוד חמורה אין לי קטגוריה שבגינה אני יכולה לפנות ולבקש טובה מהרשתות שגם לגביהן אין לי סמכות לומר להן: תסירו, אין לי סמכות חוקית לומר להם: הייתם צריכים לסמן ולא סימנתם, וגם אני חייבת שזה ייכנס לקטגוריה מאוד חמורה של אלימות שהדיפ פייק לא תמיד מתכתב איתה.

תתייחסי לסעיף 3 בחוק המחשבים.

הסעיף מדבר על העברת מידע כוזב באמצעות מחשב. מבחינת הסמכות החוקית, אם תוכן יכול לעלות כדי מידע כוזב, נדווח עליו. פרקטית עד כה לא קיבלנו תכנים לבחינה של להסיר אותם רק כי הם פייק.

תודה רבה. רועי פרידמן, ממערך הסייבר. חייבים להתכנס, מצטערת. בבקשה.

תודה רבה על ההזמנה. אני ראש מערך אסטרטגיה, מערך הסייבר. אנו שותפים להבנה ולצורך שנדרש טיפול לאומי בנושא מידע כוזב ותודעה שקרית. זה מהווה איום על כולנו כמדינה ומערך הסייבר עוד לפני המלחמה, וביתר שאת עם פרוץ המלחמה, אנו פועלים במספר וקטורים כדי לייצר אותו מרחב תודעתי מוגן, ואלה שלושה. הראשון, שמגיע מהעולמות הביומטריים בנושא של דיפ פייק וכל מה שקשור לתמונות פנים ולקול. אותו דיפ פייק בעצם נועד לשטות במערכות הזדהות, ואנו פועלים באמצעי מו"פ כדי ללמוד לזהות דיפ פייק של פנים וקול ולמעשה אפשר יהיה לכשהמו"פ הזה יבשיל אנו בוחנים מגוון כלים.

אתם בעבודה על כלי טכנולוגי שינטר את הרשת?

אנו בוחנים כלים טכנולוגיים שמאפשרים לזהות תמונות פנים סינתטיות שיוצרו באמצעות דיפ קול וקול סינטתי שיוצר באמצעות AI ולדעת שהם מזויפים. הסיבה שהתחלנו בפעילות הזו, זה כי תמונות פנים וקול הם אמצעי זיהוי למערכות ואנו רוצים להגן על מערכות שיהיו מוגנות יותר כחלק מהגנת הסייבר. זה וקטור ראשון שאנו פועלים בו.

שני הוא מלחמה בפישינג ופייק בנושאי סייבר. בימים הראשונים של המלחמה פרסמנו קול קורא. פישינג זה משלוח לינקים, שמביאים אותך לאתרים ששותלים שלך, פוגעניים, או שמביאים אותך למקומות שבהם אתה נחשף למידע שקרי. כרגע אנו לקראת עלייה לאוויר של פלטפורמה שתאפשר לאזרחים לבדוק לינקים, האם הם אמיתיים או זדוניים.

זה גם הפרסומות בטלוויזיה.

תכף אדבר על השוטפת. זה משהו אחר. הפלטפורמה הזו שאנו מעלים לאוויר תאפשר לתושבים לבדוק את הלינקים. זה צפוי לעלות בתחילת חודש ינואר, עבודה עם מספר חברות מהשוק הפרטי ואינטגרציה של פתרונות.

הווקטור השלישי זה מידע שקרי ומידע שמופץ באמצעים ממוכנים ברשתות שזה הגדול ביותר והמורכב ביותר. הבנו את זה עם פרוץ המלחמה, שנדרש טיפול בכך. כפי שנאמר פה, אין גורם ממשלתי שמרכז את הטיפול והחלטנו דגל קדימה ולעסוק בזה, וזה כחלק מהתהליך המבצעי שאנו עושים, בוחנים איך זה יכול להשתלב בתהליך המבצעי שלנו כחלק מהגנת הסייבר. ובתוך זה השטפת.

אתה חושב שאתה נמצא בעולם שבו יש לך במה להיאחז מבחינת חקיקה, מבחינת סמכויות פעולה, מבחינת הכללים של הממשלה או הדבר הזה טעון שיפור?

כפי שהזכירה עמיתתי מהפרקליטות, מתחילת המלחמה אנו עובדים איתם ומעבירים להם דברים שזיהינו כפייק. אומר בצניעות – זה לרוקן את האוקיינוס – אם קודם רוקנו עם כפית, עכשיו זה עם כף. אבל האוקיינוס הוא אותו אוקיינוס. כרגע הכלים שבהם אנו עושים שימוש הם לא סקלביליים גם מבחינת האסדרה והמסד החוקי, כשאנו מבינים שכפי שתיארו פה, באיחוד האירופי זה אחרת.

תודה רבה. פרופ' יובל. מתנצלת – צריכים להיות קשוחים עם הזמן. אז ממש בקצרה. אחריו אשמע – יש לנו נציג חברת סטארט אפ שעוסק בנושא הזה ממש, סטארט אפ ישראלי. בבקשה, פרופ' יובל. המון תודה שהגעת לכבד אותנו בנוכחותך.

לכבוד הוא לי, באמת. אני לא מומחה בתחום, אז כמה מחשבות. דבר ראשון, הבעיה, אני חושב, ברורה פה. הנושא שלשמו התכנסנו פה הוא להבין את הפתרון. אני חושב שהאנלוגיה שניתנה פה לזה שג'נטיב AI הוא כמו האש עוזרת. אני רוצה להציע מטאפורה אחרת. אני חושב שמה שאנו עומדים מולו כעת משול לתקופת המערב הפרוע. מה שאפיין את המערב הפרוע זה שהיה ואקום חוקי למערב ארצות הברית, ולתוכו נכנסו אנשים שנקראו הברונים השודדים. חבל שמה שנשאר לנו מהמערב הפרוע זה הסרטים של הקאובויים והאינדיאנים שלא מציגים לנו את הבעיה האמיתית. הבעיה האמיתית במערב הפרוע הייתה, שנכנסו לשם אנשים עשירים שניצלו את העובדה שהחוק לא באמת חל שם כדי לגרוף הון עתק על חשבון עוולות בהרבה מאוד תחומים. אנו מכירים את השמות. אלה השמות של חלק מאוניברסיטות היוקרה הטובות ביותר בארצות הברית ובהם סטנפורד, רוקפלר ומוסד פיננסי כמו ג'יי פי מורגן. כל האנשים האלה הם מהברונים השודדים.

באמת בכבוד הראוי לקולגות פה, אני חושב שלא יקרה שום דבר משמעותי בתחום הרגולציה הזו עד שהחוק יחוקק או החוקים יחוקקו פה בארץ. ולא חייבים לחכות לחוקים בארצות אחרות, כי יש לנו דוגמאות – למשל סטנדרטים של בטיחות שבמדינות מסוימות הרבה יותר מחמירים מאשר במדינות אחרות, ומי שרוצה למכור במדינות האלה מכוניות, צריך להתחשב בזה. אני חושב שאפשר יחסית בקלות לחוקק חוקים שיעבירו את האחריות בחזרה לחברות שמשמשות פלטפורמות לתוכן הזה. איני מבין הרבה ב-AI אבל בהתניה כן. ואם העונש על הפרת הדבר הזה יהיה בסקאלות של הכספים שמשמעותיות לחברות האלה, את עבודת הניטור והסילוק של הדברים הם יעשו בעצמם. זה דברים די פשוטים חוקית לעשות. חושב שיעבירו את המשא והנטל שקולגות עושים, בחזרה למי שיש לו הכלים לעשות את זה - יהיה לו גם המוטיבציה.

תודה רבה. נהניתי לשמוע אותך. ההשוואה למערב הפרוע היא מעניינת מאוד. רפאל מנדלסון. רציתי להראות שיש בסטארט אפים הישראליים חברות שעוסקות בנושאים האלה. חצי דקה. בבקשה, ספר על החברה.

אם יש דקה אחת – אדבר באנגלית. אחרת זה ייקח חמש דקות.

(נושא דברים בשפה האנגלית, להלן תרגומם:)

אני עובד בחברת סיאברה. אנחנו עובדים עם דמוקרטיות וחברות גדולות לזהות איומים המגיעים מהמדיה החברתית. אנחנו חושפים כוונות פעולות זדון, מידע לא נכון, תמונות לא אמיתיות, סרטונים לא נכונים שבאים מהמדיה החברתית. כאשר אילון מאסק רוצה לדעת כמה חשבונות מזויפים יש בטוויטר, הוא פונה לחברת סיאברה להבין כמה חשבונות מזויפים, פוסטים מזויפים וכו' קיימים בטוויטר.

כיום המדיה החברתית היא המקום להפצת מידע כוזב. זה חשוב להבדיל בין האנשים שפעילים בכך, החשבונות שמהם כותבים אם הם אמיתיים או לא והתוכן הנאמר. אנחנו לרוב ממזגים את כל המידע הזה יחד אבל חשוב להבדיל בין הדברים. בעצם היכולת להקים חשבונות מזויפים מביא להפצת תוכן שיקרי.

שימו לב שהוא מדבר בהיבט של הדיפ פייק – הפצה באמצעות פרופילים ומשתמשים מזויפים.

(נושא דברים בשפה האנגלית, להלן תרגומם:)

למשל ב7 וב-8 באוקטובר 2023, במשך 48 שעות, סיאברה חשפה מעל לארבעים אלף חשבונות מזויפים תומכי חמאס. חשבונות אלה הפיצו תוכן שקרי במספר רב של שפות. ב7 וה-8 באוקטובר, 1 מכל ארבעה חשבונות, ברחבי הפלטפורמות השונות של המדיה החברתית, שדן במלחמה של ישראל עם החמאס, היה חשבון מזויף. הם הפיצו מידע כוזב מאז וזה ממשיך עד היום.

רק בטוויטר? ואו.

(נושא דברים בשפה האנגלית, להלן תרגומם:).

פייסבוק, אינסטגרם וטיק טוק.

יש מספר דרכים מרכזיות באמצעות הכלי של GAI להפצת מידע כוזב באופן נרחב וטוב יותר באופן אמין יותר: יצירת טקסט, סרטונים ותמונות, ושפה. אם שפת האם שלך היא לא אנגלית יש אפשרות להשתמש בתוכנה מיוחדת שמייצרת תוכן בשפה המקומית באופן אמין ואמיתי. וכמובן יצירת כל התמונות והסרטונים באופן שנראה מאוד אמין. מדוע זו בעיה? מפני שיצירת תוכן כוזב והפצתו מביאה לפגיעה משמעותית, לגניבה של זהויות, עושה מניפולציות במוחם של כולנו כאשר אנו גולשים באינטרנט. יש הרבה אנשים מכובדים באולם זה, אבל אם 1 מתוך 4 אנשים כאן אינו אמיתי, השיחה הזו תתנהל באופן שונה בהחלט. לסיום, שנת 2024, תהיה שנה שוברת שיאים מבחינת בחירות. 2 ביליון אנשים מ-50 מדינות עתידים להצביע בבחירות ויתכן גם כאן בישראל. אם אנחנו רוצים ליצור סביבה אינטרנטית בריאה אנחנו צריכים להוביל לשקיפות של השיחות שמתנהלות באינטרנט, האנשים והתוכן המוצג.

תודה רבה. אני רוצה לחדד את מה שאמרת פה כי אמרת דברים מבהילים – אמרת שבימים של 7 ו-8 באוקטובר אחד מתוך ארבעה פרסומים שנגעו לאירועי הטבח בעוטף היו בחשבונות פייק מתוך מטרה לעשות מניפולציה להצגת התמונה התודעתית של האירועים שקרו. אחד מתוך ארבעה חשבונות. חמור מאוד-מאוד. בעצם אתם יודעים לנטר את כל הדברים האלה. זה מה שעושה סיאברה?

(נושא דברים בשפה האנגלית, להלן תרגומם:).

כן. אנחנו מאתרים את השיחה, באמצעות מנוע מיוחד לחיפוש באינטרנט.

הנה, ממשלת ישראל היקרה, אולי להוציא מכרז או בפטור ממכרז, לאור דחיפות האירועים, ולטפל באירוע. אנו מוכרחים לסיים. מילה מנציג מערך ההסברה גל אילן. באמת פחות מדקה. אחריו איגוד האינטרנט וענבל אורפז היקרה ואני מסכמת. דיון מרתק. תודה. אתם לא מבינים איזו הקלה בשבילי אחרי כל כך הרבה דיוני ועדת כספים על הכספים הקואליציוניים. אני עוברת פה אירוע תיקון אישי. למרות הממצאים החמורים יש לומר על המערב הפרוע. בבקשה.

תודה, היושבת-ראש. בהמשך לדברים שעלו פה אני רוצה לייצר תמונת מצב מדויקת. ראש מערך ההסברה הלאומי נכנס לתפקידו בספטמבר השנה לפני המלחמה אמנם זמן קצר. ממש בשעה זו מתכנסים כל גורמי ההסברה הלאומית, לרבות גופי ביטחון, גורמי ממשלה בחמ"ל ההסברה הלאומי. מדובר בתכלול חסר תקדים.

חסר תקדים? נראה לי שהייתי מדברת קצת יותר בצניעות על ההסברה שלנו.

יש אתגר מאוד גדול אבל התיאום נכון להיום – אני 13 שנים במערך ההסברה - לא היה כזה. סיאברה היא חברה חשובה. אנו עובדים איתם, ובוחנים פתרונות טכנולוגיים נוספים, כפי שרועי ציין. מדובר באתגר תודעתי משמעותי. אנו עובדים בשוטף עם כל גורמי הביטחון בהקשרים הרלוונטיים. ציינו פה – ולא בכדי, שהאתגר הגדול הוא דווקא גם באזורים שלא נוגעים לסרטון כפי שהעלה דרור קודם שהוא הסתה מובהקת. צירי ההשפעה ורשתות ההשפעה זה אתגר מאוד משמעותי, ואנו בדיון עם כל הגורמים בהקשר הזה.

מתי מונה ראש מערך ההסברה במשרד ראש הממשלה?

בספטמבר השנה.

מתי בספטמבר?

אני צריך לבדוק. ההחלטה התקבלה לקראת סוף אוגוסט.

אני חושבת שדי בעובדה הזו שנכנס לתפקיד אדם שמהלך כזה משבר צריך ללמוד את תפקידו וללמוד מי אנשי הקשר שלו ולהיכנס לתפקיד – תפקיד בסדר גודל כזה במדינה כזו שמתמודדת עם כאלה בעיות הסברה, העובדה שלא היה אדם בתפקיד הזה ומונה לתפקידו רק בספטמבר מדברת בעד עצמה ויש לי כבוד והערכה רבים אליך. אתם לא מקבלים את התנאים הראויים. המערכת והשלד לא קיימים. תודה. ענבל אורפז. סליחה, אבל דקה ממש. תציגי את עצמך על העבודה החשובה שאת עושה.

תודה. אני יועצת חדשנות אסטרטגית. חקרתי את הנושאים האלה בהקשר של הביטחון הלאומי הרבה שנים, ההשפעות של הדיפ פייק על הביטחון הלאומי, הפלייבוק של ההשפעה האיראניים יחד עם התוכן של פייק ריפורטר. קרקסנו מומחים בתחום שנפגשים הרבה שנים. פעם ראשונה שאנו נפגשים פה בכנסת וזו חשיבות מאוד גדולה וטוב לסכם בזה – אם לא נעשה מעשה, נמשיך להיפגש ולדבר על אותם נושאים ולא מתקדם. אני רוצה לגעת בשורש הבעיה – אין היום בישראל אף גורם שמתכלל את הבעיה הזו ומסתכל עליה. אנו יכולים לדבר הרבה על רגולציה. אנו יודעים שהטכנולוגיה תתקדם הרבה יותר מהר מהרגולציה אבל לא תיתן את המענה. מה שאנו מבינים ואפשר לדבר על זה גם בהקשר שומר החומות ובטח עכשיו. הנושא של הזירה הדיגיטלי והזירה של הרשתות החברתיות היא משמעותית, משפיעה על חוסן העורף, משפיעה על האופן שבו ישראל נתפסת בעולם. למשל יש מילים כמו טלגרם שלא הוזכרו פה. טלגרם זה אירוע ענק במלחמה הזו.

נכון. לא הגיעו לדיון.

ספרתי, בערוצי טלגרם הגדולים שמפיצים חדשות - מעל מיליון ישראליים הצטרפו מאז 7.10. יש שם קרקע פורייה להפצת תוכן שקרי.

המערב הפרוע, אנחנו מאמצים בחום את השם.

לחלוטין המערב הפרוע. המקום שצריך להיות לגוף מתכלל שיסתכל על הכול – הרבה פעמים בדיונם האלה אנו אומרים: הרגולציה לא תתקדם – צריך לעשות חינוך לציבור. תמיד בסוף אנו מדברים על אוריינות דיגיטלית. אבל אני רוצה לטעון שזה לזרוק אחריות על הציבור וצריך לתת כלים לציבור. אפשר בקלות לפתח כלים. למשל ראינו את התמונות פה. אם היה אתר רשמי, שאני יכולה להעלות תמונה ולקבל חיווי – זה AI- -

זה קיים בצו הנשיאותי למשל של נשיא ארצות הברית. מדובר על אתר של הממשלה שבו אנשים יוכלו לקבל מידע מה פייק, מה לא פייק.

זה קיים ואפשרי ולכן מעולה שיש קמפיין ויש שטפת אבל אם לא נייצר את התשתית ולא ניתן את הכלים זה לא יזוז וניפגש פה גם במלחמה הבאה.

תודה רבה. רשות הגנת הפרטיות, בבקשה. חצי דקה, צר לי, ועידן מאיגוד האינטרנט.

תודה רבה. בכל הנוגע לדיפ פייק ולהשפעה על פרטיות, הרשות להגנת הפרטיות פרסמה לפני כשנה מסמך שעוסק בשימוש בטכנולוגיית דיפ פייק בהתייחס להשפעה על פרטיות ושם הבהירה את העמדה שלה, שכאשר נעשה שימוש בבינה מלאכותית ובטכנולוגיית דיפ פייק לשם יצירת תמונות, סרטונים או קבצי קול כשנחזים להיות תוכן אמיתי שמקושר לאדם אמיתי או שעלולים להיתפס בציבור כבעלי תוכן אותנטי, ושיש בהם תוכן שיש בו כדי להשפיל או לבזות או לפגוע בפרטיות שלו – הדבר מהווה הפרה של הוראות חוק הגנת- -

נכון. אני משבחת את הרשות להגנת הפרטיות. היא מהבודדות שהוציאו חוזר בנושא. הוא פחות רלוונטי לדיון הזה לצערי. הוא עוסק בהלבנת פנים של קטינים, נשים באמצעות דיפ פייק. פחות רלוונטי לתמונה שקשורה למניפולציה בתודעה במלחמה בעזה וזה עדיין לא מכסה על הפער הגדול שיש ברגולציה. תודה רבה. נעבור לעידן מאיגוד האינטרנט. בבקשה.

תודה על הדיון החשוב והמפורט הזה. אנו הגשנו לוועדה מסמך שנמצא גם באתר הוועדה שמסתמך על עבודת קו הסיוע לאינטרנט בטוח שאיגוד האינטרנט מפעיל עשור, חווינו זינוק בפניות לקו במהלך המלחמה. חשוב לציין שהבעיה של דיס אינפורמציה ובכלל של תוכן פוגעני היא לא ייחודית או בלעדית לתקופת המלחמה, והאתגרים שמציבה והצורך בסמכויות ברורות, ברגולציה ברורה היא נכונה ותהיה נכונה גם אחרי המלחמה ביתר שאת. לא רק בהקשר של בינה מלאכותית. הבעיה של דיס אינפורמציה – שהיא לא ממוקדת בטכנולוגיה הזו דווקא וגם הפתרונות לא יכולים להיות רק טכנולוגיים. כפי שנאמר פה, יש צורך אמיתי לא רק ברגולציה ובסמכויות אלא גם בחינוך לאוריינות מדיה גם של קהלים רחבים ובטח של צעירים שכלל לא קיים כיום במדינת ישראל. זה לא מספיק דובר פה היום. זה דבר שחשוב לדבר עליו.

הטיפול במיסאינפורמציה ומה אמת מסוכן לשים אותו רק בידי המדינה, ובטח בידיים של גופי ביטחון. זה חייב להיות שולחן עגול יותר שיש בו גם החברה האזרחית וגם האזרחים עצמם וגם מערכת החינוך.

תודה רבה. אני רוצה לסכם ולהודות לכל מי שהגיע. אני חושבת שהיה דיון מאוד מרשים והתרומה של כל אחד לדיון הזה.

מלחמת חרבות ברזל זימנה למדינת ישראל אתגר גדול, הן בהיבטים המלחמתי והביטחוני והן בהיבט ההסברתי. לצד הלחימה הקשה בגבולות ישראל אנו מקיימים מאבק לא פחות חשוב על מעמדנו הבין לאומי ועל שמנו הטוב, והדבר הזה הוא יעד אסטרטגי עם השלכות על ביטחון ישראל אבל על העם היהודי כולו.

במסגרת זו, השימוש בבינה מלאכותית בסרטונים, בתכנים כוזבים, בהסתה שקרית ושיטתית בהיקפים עצומים נגד מדינת ישראל וצבא ההגנה לישראל, הם עצומים. הדיון פה היום הציג בפנינו תמונה מבהילה, לפיו אפילו בין היתר עלה כי בימים שבין 7 ל-8 באוקטובר אחד מתוך ארבעה חשבונות ברשתות חברתיות בעולם היו פייק, ועשו מניפולציה על התודעה ביחס לאירועים הנוראיים ולטבח הנורא שעברה ישראל. אני חושבת שמהדיון הזה עלו כמה דברים.

מהדיון היום עולה חד משמעית כי מדינת ישראל לא מטפלת בנושא הזה בצורה הראויה לו והקריאה שלי היא כפולה. פעם היא פונה לרשתות החברתיות שהופיעו פה חלקן, לפעול בצורה נחושה יותר כנגד התופעה הזו, להסיר פוסטים ופייקים שמתגלים בזמן אמת. אני חושבת שהיכולות הטכנולוגיות שבידי חברות הטכנולוגיה והרשתות החברתיות היום מאפשרות התחלה מיידית ומהירה של רגולציה עצמית. יש המשאבים והיכולות לכך. נדרשת פשוט החלטה על שינוי בסדרי עדיפויות.

ביחס לממשלה, אני קוראת בזה לממשלת ישראל, הוועדה כולה קוראת לא להעלים עין מתופעת הדיפ-פייק ויש לפעול באופן שהוא די ברור וידוע. כולם יודעים מה שצריך לעשות – פשוט צריך לעשות את זה: אחת, להציב את הנושא הזה כיעד אסטרטגי שמצוי באמת בסדרי העדיפויות של הממשלה בסדר עדיפות גבוה. ליזום החלטת ממשלה בנושא הזה ולהגדיר גורם אחד מתכלל כדי שהנושא הזה לא ייפול בין אלף גופים כפי שנאמר פה כפית או כף באוקיינוס עם אלף אנשים שלאף אחד באמת אין האחריות על הנושא הזה.

בנוסף להקמת אדם אחד, יש להקים צוות ממשלתי ייעודי לטיפול בנושא, שיכלול חברות טכנולוגיה עם יכולות מוכחות ומיידיות בנושא כגון חברות שדיברנו עליהן פה ושהציגו פה. משרד המשפטים, מערך הסייבר, שירות הביטחון הכללי, משרד החדשנות, מערך ההסברה ועוד. הצוות יעבוד עם השוק הפרטי ושוק ההייטק בישראל והחברות האזרחיות דוגמת איגוד האינטרנט והפייק ריפורטר לזיהוי, ניתוח ותגובות לפעולות של דיפ פייק שנועדו לפגוע במדינת ישראל ולהסית נגדה. על הצוות לעסוק בפן הטכנולוגי, אבל גם ביצירת כלים משפטיים-חקיקתיים ורגולטוריים, להתמודד עם התופעה המסוכנת הזו.

מייד, בלי לחכות למסקנות הצוות, יש להוציא הוראה שתחייב את חברות הטכנולוגיה ואת הפלטפורמות בישראל בשקיפות מלאה ביחס למדיניות שלהן ולפעולות הניטור ולפעולות ההסרה. הפעולות הללו של חברות הטכנולוגיה, בכל הכבוד, לבוא לדיון ולומר: אין לנו בדיוק הנתונים, אעשה שיעורי בית - הדברים האלה אין סיבה שלא יהיו פומביים. השקיפות תעשה את שלה, והציבור בכל הארץ ובעולם צריך לראות, מהן פעולות ההסרה, מה הקריטריונים, בגין מה ועוד.

בפרט, על הממשלה לבחון את הצעדים הבאים: לקבוע הוראת חוק שמחייבת את הפלטפורמות השונות ליצור חתימה וזיהוי ברור של תמונות ותוצרים שהם פרי שימוש בבינה מלאכותית, בדומה לסעיף 3 לצו הנשיאותי של הנשיא ביידן מסוף אוקטובר השנה, בדומה לטיוטת חוק ה AI-ACT ולחוק ה-DSA של האיחוד האירופי.

ב. בשונה מהמצב הקיים, בו בישראל אין שום כל סמכות להורות להסיר תכנים, יש לפעול ולקדם הצעות חוק שנחסמו על ידי ממשלות קודמות, מה שהיה מכונה חוק הסייבר. לחדש את העבודה על החוקים האלה – חוק הפייסבוק סליחה, ולקדם הצעת חוק שנעצרה בממשלה הקודמת – החוק להגנה על הציבור מפני פרסומים מסוכנים ברשת האינטרנט שהוא חוק שהונח על שולחן הכנסת על ידי ממשלת השינוי אבל הליך חקיקתו לא הושלם.

להתניע את המהלך הזה שבו בית המשפט יהיה מוסמך לבקשת תובע, צו המחייב להסיר תוכן מרשת האינטרנט, בין אם האתר מאוחסן בשרת בישראל ובין אם מאוחסן בשרת מחוץ לישראל, ובמקביל לאפשר את איתורו של התוכן ברשת, כאשר יש אפשרות ממשית שהמשך פרסום התוכן יפגע בביטחונו של אדם, בביטחון הציבור או בביטחון המדינה.

יש להתאים בעקבות אירועי 7.10 את ההסדרים האלה בהצעת החוק הזו שכללה במקרה כזה – להסיר תכנים. שיהיה ברור שכוללים גם מקרים של תכנים מזויפים שתומכים בטרור או מפיצים מידע שקרי במסגרת אירועי לחימה.

עוד נקודת שעלתה פה – יש להקים מנגנון ממשלתי באינטרנט, שמביא שירות שבודק אמינות של תכנים שמופצים, שיהיה שקוף לציבור בישראל ובעולם ונותן שירותים ומסייע במיפוי הזה של פייק ושאיננו פייק.

על הממשלה להשתלב במסגרות עבודה בין לאומיות שכבר ראינו שקיימים כמו- - - בנושא. יש לקדם את האוריינות הדיגיטלית ולקדם לילדי ולאזרחי ישראל כלים להתמודד עם הדברים האלה.

בשנה האחרונה היה דיון בין לאומי מאוד רחב על הסכנות לצד ההזדמנויות שהביאה הבינה המלאכותית, על המערב הפרוע שהציג אותו פה פרופ' יובל.

ראשי תעשיית ההייטק בעולם ובראשם סאם אלטמן, מנכ"ל חברת OpenAI, הודה בביקורו בישראל ודיבר על החלק הקשה בטכנולוגיה פורצת הדרך הזו, לאזן בין ההבטחה האדירה שלה, לבין הסיכונים שלה.

אני חושבת שמלחמת ה-7 באוקטובר המחישה לכולנו את הסכנות הגדולות, הנוספות שיש בטכנולוגיה הזו, את המדרגה הנוספת לסכנות הללו, והממשלה חייבת להתעורר ולטפל בנושא, ויפה שעה אחת קודם. תודה לכולם על הדיון הזה, נמשיך ונעקוב, תודה רבה. ובקשה קטנה מנציג מטא – אנא ממך אם אפשר לקבל תשובה בכתב ביחס לסרטון הספציפי הזה.

תודה רבה, הישיבה נעולה.


הישיבה ננעלה בשעה 12:00.