פרוטוקול של ישיבת ועדה

הכנסת העשרים-וחמש

הכנסת



30
ועדת המדע והטכנולוגיה
10/12/2024


מושב שלישי


פרוטוקול מס' 50
מישיבת ועדת המדע והטכנולוגיה
יום שלישי, ט' בכסלו התשפ"ה (10 בדצמבר 2024), שעה 14:00

התמודדות הרשויות וחברות הטכנולוגיה עם שיח פוגעני והסתה ברשת

חברי הוועדה: איימן עודה – היו"ר

ואליד אלהואשלה
יוסף עטאונה

ניצן מרקוס - מחלקת מצפן ומודיעין, משטרת ישראל, המשרד לביטחון לאומי

נאוה כהן-אביגדור - המטה הלאומי להגנה על ילדים ברשת, 105, המשרד לביטחון לאומי

דנית שושן - מדור חקירות, משטרת ישראל, המשרד לביטחון לאומי

שירי רום בן צדף - סגנית מנהל מחלקת הסייבר, פרקליטות המדינה

חן בן שלום - לשכת המשנה לפרקליט המדינה (תפקידים מיוחדים), פרקליטות המדינה

עוז שנהב - מנהל מחלקת חדשנות ופיתוח מדיניות, הרשות להגנת הפרטיות

אילת אטיאס סיון - הרשות לקידום מעמד האישה

קרן רוט איטח - השירות הפסיכולוגי הייעוצי, משרד החינוך

אדורה אלעיס - מנהלת תחום חינוך, המטה הלאומי 105, משרד החינוך

מרב חורב - מנהלת אגף בכיר השכלה ויישום, מערך הדיגיטל הלאומי

דניאל דהן סבג - יועצת משפטית, מערך הדיגיטל הלאומי

רועי גולדשמידט - ראש תחום, מרכז המחקר והמידע של הכנסת

רוני הרשקוביץ - מרכז המחקר והמידע של הכנסת

תהילה אלטשולר - עמיתה בכירה, המכון הישראלי לדמוקרטיה

עדן פרבר - חוקרת, תכלית, המכון למדיניות ישראלית

טמיר בר - רכז מדיניות ציבורית, תכלית, המכון למדיניות ישראלית

ליאת גלזר - מנהלת קשרי ממשל ומדיניות ציבורית, חברת גוגל

יהודה בן יעקב - מנהל מדיניות, חברת Meta

אורי נרוב - מנהל המחלקה המשפטית, המרכז הרפורמי לדת ומדינה

ליאור שוחט - מנהל שותפויות, אקדמיית מצמיחים (להפחתת אלימות בבתי הספר)

אלין נסרה - נציגות סטודנטים, אוניברסיטת תל אביב

דוד מרגליות - נציגות סטודנטים, אוניברסיטת תל אביב

האמה אבו-קשק - מרצה בכירה במכללת ספיר וחברת ועד המנהל באיגוד האינטרנט הישראלי

לירון ריפמן - מנהלת המדיניות הציבורית וקשרי ממשל, טיקטוק בישראל

איתמר ויסמונטסקי - נציג מועצת התלמידים והנוער הארצית

חאלד קוט - בן זוגה של ספאא ז"ל

איילת חאקימיאן

סמדר לביא, חבר תרגומים


רשימת הנוכחים על תואריהם מבוססת על המידע שהוזן במערכת המוזמנים הממוחשבת. ייתכנו אי-דיוקים והשמטות.



התמודדות הרשויות וחברות הטכנולוגיה עם שיח פוגעני והסתה ברשת

שלום לכולכם, אני מתחיל את ישיבת ועדת המדע והטכנולוגיה, דיון הוועדה הוא בהתמודדות הרשויות וחברות הטכנולוגיות עם שיח פוגעני והסתה ברשת. חברים וחברות, אתם יודעים שאנחנו נמצאים בתקופה קשה וזה מחייב את כולנו בהתנהלות אחראית מאוד מאוד, ברמה האישית.

הסכסוך הפלסטיני ישראלי הוא סכסוך קשה, סכסוך מורכב, אנחנו אזרחים שאמורים לשמר יחסים כמה שיותר נורמטיביים והלוואי טובים או טובים מאוד או מצוינים. עברנו תקופות קשות מאוד מאז 1948 ואני חושב שלמרות האירועים הגדולים הצלחנו לשמור על חיים משותפים בצורה זו או אחרת וחובה על כולנו לשמר את זה.

אני חושב שיש דברים מאוד מאוד בסיסיים, מאוד אלמנטריים, לכל בן אדם בהיותו בן אדם, זה באמת המינימום שבמינימום, וזה לקרוא להוציא את כל האזרחים ממעגל האימה, ממעגל המלחמה, ממעגל הפגיעה. אני חושב שזה המינימום הנדרש, אחרי זה יש בינינו ויכוחים פוליטיים, יש ויכוחים פוליטיים קשים מאוד, אבל את המינימום הנדרש הזה בלהוציא את כל האזרחים הערבים והיהודים ממעגל האימה והפגיעה וההסתה זה המינימום שאנחנו כולנו צריכים לקבל אותו.

אחרי שהמחנכת, מורת בית הספר, ספאא קוט עואד, הנה הפנים שלה, להסתכל על הפנים שלה, אחרי שהיא נהרגה הלכתי לנחם את המשפחה. כשיצאתי משם עברתי על כל מיני אתרי אינטרנט, מצאתי דברים איומים שאף אחד מאיתנו לא צריך לקבל את זה. אחד אומר: 'לא ברור למה הפוסט הזה קודר כשאמורים לשמוח'. יש שם של הבן אדם שכתב את זה. 'ישתבח שמו', יש שם של הבן אדם שכתב את זה. קצת בשורות טובות לפני השבת. 'חבל שלא כל הטילים לא נופלים שם, ממילא המפגרים הורגים אחד את השני'. 'ברוך ה', כן ירבו'. 'אני גזענית גאה'. 'ברוך אלוהים כן ירבו'. 'יאללה, מי רוצה בקלאווה? תבואו באהבה, מחכה לכם, וכן ירבו לכל הכפר'. ועוד ועוד ועוד ועוד.

חשוב לנו להבין בישיבה הזו איך הרשויות מטפלות בעניין. איך המשטרה, איך הפרקליטות, איך האתרים, איך המדיה החברתית, מטפלים בסוגיות כאלה? אני חושב שכל בן אדם בהיותו בן אדם לא רוצה שתהיה פגיעה ישירה נגד בני אדם ולא רוצה אכיפה בררנית אלא רוצה טיפול הוגן וצודק כלפי כולם.

אנחנו מתחילים את הדיון שלנו, אני מסתכל על הרשימה, אנחנו מתחילים עם ד"ר תהילה אלטשולר, ראש התוכנית לדמוקרטיה בעידן המידע, המכון הישראלי לדמוקרטיה. בבקשה.

שלום, צוהריים טובים, תודה רבה על ההזמנה. אני מתנצלת מראש על שני דברים, הדבר הראשון הוא שחלק מהשקפים פה באנגלית, זה מה שקורה כשמכינים מצגת בהתראה של עשר שעות, אבל אני רוצה גם לומר שההצגה שלי עכשיו תהיה הצגה מלמעלה כי נתונים אין באמת, לפחות לא לפני הוועדה, אז אני מנסה לתת תמונה יותר מלאה, לעזור לחשוב על השאלות שצריך לשאול אותן וכו'.

בהצגה שלי אני גם אנסה להסביר מה הם ההיבטים שבהם נכון דווקא לקיים את הדיון הזה בוועדת המדע והטכנולוגיה ולא בוועדת חוקה למשל, ששם בדרך כלל מתנהלים הדיונים שעוסקים בעבירות הסתה.

מעניין למה. זו שאלה אמיתית או רטורית? מחכה לתשובה או שהתשובה מובנת?

אני רוצה לתת תשובה אלטרנטיבית, אדוני, והתשובה שאני רוצה לתת היא שבסוף אנחנו נמצאים בעולם שיצרה הטכנולוגיה, אנחנו נמצאים בעולם שבו חברות טכנולוגיה צריכות לקחת אחריות, אנחנו נמצאים בעולם שבו אפשר לחשוב אולי על כלים טכנולוגיים שיעזרו לנו דווקא להתמודד עם הבעיות האלה ולא רק ליצור אותן, ואנחנו נמצאים גם בעולם שמאוד מעריך דאטה, שאין לנו היום בדיון הזה באופן אמיתי.

(מצגת). אז אלה הדברים שאני רוצה לדבר עליהם. אני חושבת שהעולם של הסתה לאלימות וגזענות וטרור ברשתות הוא באמת סוגיית מדיניות חוצת מרחבים, היא נמצאת בפופיק של מהפכת המידע, של מהפכת המעקב, של בינה מלאכותית וגם של מהפכת הריבונות. זאת אומרת הקושי שיש למדינות להתמודד עם דברים שמתרחשים במרחב פרטי ששייך לחברות רב-לאומיות.

כשמסתכלים על דרכי ההתמודדות עם עבירות ההסתה אנחנו יכולים להסתכל על כמה דרכים. הדרך הראשונה היא אכיפה עצמית של הרשתות. הרשתות צריכות לקחת אחריות על מה שקורה ולטפל בביטויים שאנחנו הרבה פעמים קוראים להם lawful but awful, הם לא עבירות אבל הם נוראיים ואיומים.

הדרך האפשרית הנוספת היא על ידי רשויות אכיפת החוק, חקירה והעמדה לדין. הדרך השלישית היא מה שאנחנו קוראים לו היום אכיפה אלטרנטיבית, כלומר הסרה של התכנים האלה באמצעות קשר בין מחלקת הסייבר בפרקליטות לבין הרשתות החברתיות וכמובן החינוך והאוריינות הדיגיטלית שהם חשובים מאוד מאוד.

אבל כשאנחנו מסתכלים על מגוון הכלים שעומדים לרשותנו אנחנו צריכים לשאול את עצמנו שתי שאלות חשובות. השאלה הראשונה היא השאלה המוסדית, מי אחראי לטפל בזה, והשאלה השנייה היא לפי איזו מתודולוגיה עובדים. איך היום מחליטים מתי פותחים בחקירה, איך מחליטים את מי מעמידים לדין, מה המתודולוגיה שמשתמשים בה, ובשביל זה צריך, אדוני היושב ראש, דאטה.

אנחנו צריכים דאטה על החקירות ועל כתבי האישום ועל בקשות ההסרה, אנחנו צריכים פילוחים. אנחנו צריכים פילוחים לא רק לפי יהודים וערבים, אנחנו צריכים פילוחים לפי מגדר ופילוחים לפי גיל, אלה פילוחים שיעזרו לנו מאוד מאוד אחר כך לעשות חינוך ואוריינות דיגיטלית. אנחנו צריכים לדעת מה המתודולוגיה שלפיה מחליטים מתי מעמידים לדין.

וממי את מבקשת את זה?

אתם ביקשתם ולא קיבלתם. לי אומרים 'לא' ישר, לכם עוד אומרים 'לא' מנומס. אנחנו רוצים לדעת באיזה מתודולוגיה משתמשים כי אם נדע מה המתודולוגיה נוכל לדעת למי לייחס - - -

כלומר המשטרה, הפרקליטות, הרשתות.

ואנחנו רוצים לדעת מה המתודולוגיה כי אז נוכל לדעת אם היא שוויונית, כי אז נוכל לדעת את מי באמת מחפשים. אנחנו גם רוצים לדעת האם משתמשים בטכנולוגיות כדי לנסות ולהתמודד עם הבעיות האלה ובאיזה טכנולוגיות, ועל זה אני אדבר עכשיו.

הדבר הראשון שאנחנו רוצים לדבר עליו הוא הרשתות החברתיות, ופה אין באמת הרבה חידושים. יש כשל כפול כשאנחנו מתייחסים היום לרשתות החברתיות. הכשל האחד הוא המודל העסקי שלהם והוא מודל עסקי שמעודד שיח אלים. אין מה לעשות, זה שם, גם עצם יצירת השיח וגם הפצת השיח. הדבר השני הוא כשל האכיפה הפנימי של הרשתות החברתיות. יש להם כללי קהילה, הרבה יותר קל לטפל בביטויי הסתה וביטויים אלימים מאשר דיסאינפורמציה, למשל, כי ביטויי הסתה הם דבר שיש לגביו הרבה יותר הסכמה, לגבי רמת הפוגעניות שלו.

ועדיין צריך להגיד ביושר, יש נורא מעט אכיפה והיא לא מספיקה. זה דוח של X, של טוויטר. לטוויטר יש שני בודקי תוכן בעברית על כל האינטרנט בעברית. זאת אומרת על כל משתמשי הטוויטר בעברית יש שני בודקי תוכן. גם אם תפנה ותתלונן אין מי שיטפל בתלונה שלך.

יש שני אנשים שבודקים את ההסתה?

כן, התפקיד שלהם זה להיות אלה שמקבלים את התלונות מכל האינטרנט או משתמשי הטוויטר בעברית. בערבית יש 12 אבל הם מטפלים בכל העולם הערבי, לא רק בערבית בישראל. אז אתם מבינים שכשאתה כבר מגיש תלונה אין מי שיטפל בזה.

אולי חסר כסף לאילון מאסק.

יש לנו התחלה של דוחות של החברות מכוח החקיקה שעברה באירופה ואנחנו מתחילים לראות את הדוחות של החברות לגבי טיפול בעניינים שנוגעים לאלימות ולהסתה. מדובר בסוף בנורא נורא מעט. יותר מזה, זה מחקר שעשו ניצן יסעור ועידן רינג מאיגוד האינטרנט הישראלי על זמני מענה לדיווח על תוכן פוגעני.

תנסו להסתכל שם איפה נמצא hate speech וכמה זמן לוקח לענות. לוקח בערך שמונה-תשעה ימים לענות. שמונה-תשעה ימים זה נצח במונחי אינטרנט, בינתיים הביטוי עוד שם. ואם תסתכלו תראו שבסופי שבוע, בעיקר בימי ראשון, אין לכם עם מי לדבר, וגם לא כשיש חג ההודיה וחופשת כריסטמס ואתם מבינים למה אני מתכוונת. הצוותים האלה לא יושבים בארץ. פה יכולה להיות מלחמת אזרחים, אבל שם יש חופש ואין בעצם מענה. זה הדבר הראשון, אנחנו צריכים להסתכל על האכיפה העצמית של הרשתות.

עכשיו אנחנו צריכים להסתכל על הדבר השני והוא החקירה וההעמדה לדין. איפה נמצאות רשויות המדינה? דבר ראשון, צריך להגיד זה נורא נורא רגיש. זה השופט יצחק עמית בפסק דין מ-2019, אנחנו יודעים שמול הסיפור הזה של התוכן האלים יש לנו גם חשש והחשש הוא מאכיפת יתר ומהגבלת חופש הביטוי. אז מה נובע מזה? מה שנובע מזה זה שכשמדובר בעבירות של הסתה צריך פרוצדורה וצריך פיקוח וגם צריך מתודולוגיה להערכה. זה הדבר שבסוף יעזור לנו.

כשאנחנו מדברים על עבירות הסתה לאלימות וגזענות וטרור יש לנו שלוש עבירות גדולות, יש את ההסתה לאלימות, יש הסתה לגזענות ויש הסתה לטרור שנמצאת בחוק הטרור. הסתה לפי חוק העונשין שלנו לא מחייבת קשר סיבתי לביצוע העבירה, זאת אומרת אתה לא צריך להגיד שכתוצאה מזה שמישהו הסית אשכרה מישהו הלך ודקר או מישהו ביצע עבירת אלימות. לכן עבירות ההסתה בחוק העונשין מתמקדות במסית עצמו. בחוק הטרור זה קצת יותר חזק, כי אז באמת פרסום הדברים עלול להביא לעשיית מעשה טרור.

אבל מה שאני רוצה להגיד זה שהעבירות עצמן נותנות לנו את מפת הדרכים באיזה מתודולוגיה להשתמש ופה אני רוצה להגיד כמה מילים על המתודולוגיה. אני מחלקת את זה לארבעה חלקים. יש לנו את השאלה של התוכן, באיזה תוכן מדובר, יש לנו את השאלה של ההקשר והנסיבות של התוכן, יש את השאלה של הכוונה של מי שמדבר ויש לנו את הווקטור של הסכנה.

ופה יש לנו הרבה מאוד דברים שמתרחשים היום באינטרנט. למשל השאלה האם יש שפה ייחודית לרשתות, האם אנחנו צריכים להניח שכשאנשים מתבטאים ברשתות הם יותר אלימים ממה שהם מתבטאים בשפה פנים אל פנים. האם אנחנו יכולים לשאול שאלות של טקטיקות רטוריות. יש טקטיקה רטורית מאוד מקובלת והיא טקטיקת 'אני רק שאלה'. 'אהוד ברק בן 80, מה תאחלו לו?' תתחיל בזה ואחר כך תקבל את כל התגובות שאתה יכול לקבל ואז אומרים: מה פתאום? לא אמרתי כלום, רק איחלתי, רק שאלתי, כל מיני דברים מהסוג הזה. יש גם את הסיפור של הסנטימנט, שיכול מאוד ללמד על כוונה. אז אתם יכולים לראות פה כל מיני דברים.

מה שעוד חשוב לי להגיד זה ההקשר והנסיבות שהעבירות מתבצעות בהם. אנחנו צריכים להגיד משהו לגבי זהות המפרסם וזהות המפיץ. אנחנו לא נמצאים היום בעולם שבו מרבית הדברים שמתרחשים ברשתות הם על ידי אנשים פרטיים שפועלים לגמרי לבד. אנחנו מדברים על מכונות רעל, על רשתות הדהוד, על הרבה מאוד תוכן שאחר כך גורמים אחרים, זה יכול להיות גורמים עוינים ממדינות זרות וזה יכול להיות גורמים פליליים וזה יכול להיות מפלגות והעוזרים שלהם וזה יכול להיות גורמים למטרות רווח, משתמשים בתוכן שכבר פורסם כדי לחזק אמיתיות של חשבונות מזויפים, כדי ליצור קמפיינים של ההשפעה.

אז השאלה הזאת, איפה ההקשר והנסיבות ואיך מודדים השפעה? השפעה לא מודדים בלייקים, זה ברור היום. השפעה מודדים במשהו הרבה יותר רב פלטפורמלי, הרבה יותר משוכלל. פה אני רוצה לתת לכם שני מטריקסים שבעיניי הם מאוד מאוד חשובים. המידע שלנו היום לא נמצא רק בפייסבוק ובטוויטר, יש אקוסיסטם שלם של מידע, הוא בתקשורת הממוסדת, גם שם יש הסתה, הוא במדיה החברתית הפתוחה, בפייסבוק ובאינסטגרם, ב-X, בטוויטר, ששם יש פיזור אלגוריתמי של תכנים ובכל מיני ערוצי מדיה אלטרנטיביים והוא גם ברשתות peer to peer, הכוונה היא אחד לאחד המוצפנות, כלומר בעיקר ווטסאפ וטלגרם.

השאלה הזאת, למה להסתכל על זה בתור אקוסיסטם נורא נורא חשובה בגלל מה שכתוב הכי בצד שמאל של השקף הזה, יש פה מרוץ לתחתית, למרוץ לתחתית הזה קוראים הפאי פליי, משהו עולה בטלגרם ואז משתפים אותו בטוויטר ואז הוא מגיע לטלוויזיה. אם מישהו באמת אכפת לו ממה שקורה באמת בהקשר של שיח מכבד, שיח מגונן, תחושה במיוחד של אנשי מיעוט להרגיש טוב בתוך חברה הוא צריך להסתכל על האקוסיסטם של המידע. זה המטריקס הראשון שבעיניי הוא מאוד מאוד חשוב. אי אפשר היום, בעיניי, להסתכל על פוסט מסוים שפורסם באופן בדיד בפייסבוק ולהגיד עבירת הסתה, חייבים להסתכל על זה בהסתכלות אקוסיסטמית.

הדבר השני הוא לזכור שכל העולם של הסתה נמצא בתוך מטריקס הרבה יותר רחב של הסכנות שמתרחשות ברשתות החברתיות, זה לא רק hatred שנמצא בצד ימין באמצע, זה הדבר הראשון שמסתכלים עליו, ששנאה מחליפה הסכמה, זה קיטוב וזה הטיות אישוש וזה אנשים שמרגישים נוח מדי. קראת פה קודם רשימה שלמה של תגובות, אנשים מרגישים נורא נוח כי אחרים עשו את זה, זה אישש להם את מה שהם גם חשבו וגם את נורמת ההתנהגות שהיא מקובלת.

זה קשור גם להתמכרויות וזה קשור גם לתופעה הכי חשובה של הזמן שלנו שנקרא חוסר עכבות מקוון. אנשים חושבים שבצד השני אין אף אחד, יש רק מחשב, ולכן מותר להם להגיד דברים שבחיים הם לא יגידו פנים אל פנים. אז תצרפו את מה שיש בצד ימין עם מה שיש בצד שמאל וזה נותן את המטריקס הגדול שבתוכו צריך להסתכל.

כדי לא רק להרגיז אתכם ולספר כמה הכול נורא אני רוצה לסיים בכמה שקפים שיכולים ללמד אותנו שהמהפכה הטכנולוגית, במיוחד של הבינה המלאכותית היוצרת בשנה וחצי-שנתיים האחרונות, יכולה מאוד מאוד לעזור לנו, בניתוח מידע ובאיסוף מידע וביצירת מדיניות אחידה ובמערכות תעדוף ובצמצום טעויות וגם באיסוף וניתוח של נתונים והשקפה שלהם לציבור.

פה אני חושבת שיש לרשויות אכיפת החוק תפקיד כפול. התפקיד הראשון הוא לפתח מתודולוגיה, שעליה דיברתי קודם, אבל התפקיד השני הוא להשתמש בכלים טכנולוגיים שיכולים לעזור, ושוב, באופן מאוד מאוד אחראי. צריך לזכור שאכיפת יתר יכולה לגרום להטיות, אבל כל הזמן לשאול מה אנחנו מחפשים ואיך טכנולוגיה יכולה לעזור לנו, איך אנחנו יוצרים נהלים מתאימים ואיך אנחנו יוצרים בקרה על הנהלים האלה, אבל כל הדבר הזה הוא אחד מהפתרונות למשבר כוח האדם ולחוסר היכולת לטפל בזה.

השקף האחרון, כדאי גם לזכור שהרשתות החברתיות יילכו וישנו צורה וחלק מהיכולת שלנו היא להסתכל שנתיים-שלוש קדימה איך רשויות המדינה צריכות להתאים את עצמן למודלים חדשים של רשתות חברתיות, למציאות מורחבת ורבודה, לרשתות שהופכות להיות יותר אישיות, למערכות בינה מלאכותית שיודעות לייצר היפר-שכנוע בכל מיני דברים. אלה דברים שאנחנו צריכים לקחת בחשבון.

כל זה היה לגבי חקירה והעמדה לדין, אני משערת שיגיעו לפה עוד אנשים מהמדינה, תקשיבו, בעולם הספינה שינתה כיוון, סליחה שאני אומרת את זה, אין לנו חקיקה, אין לנו מסגרות חקיקה טובות, יש כאלה כבר היום בעולם. הצעת חוק הפייסבוק נפלה כי היא הייתה רחבה מדי, ההסדר הוולונטרי אושר על ידי בג"צ אבל עדיין הוא הסדר וולונטרי שעומד ללא הסמכה בחוק. פעילות מחלקת הסייבר בפרקליטות יחסית שקופה, תחפשו באתר שלהם, אפשר לקבל הרבה מאוד נתונים, אבל צריך לזכור, פעילות מחלקת הסייבר היא לא העמדה לדין, היא לעקוף את הצורך בהעמדה לדין, היא לעקוף את הצורך בלחפש את העבריינים, היא לעקוף את הצורך בלחפש את מובילי הדעה שמאוד מאוד מציקים לאוכלוסיות מסוימות, היא פשוט להגיד בואו נסיר את זה מהאינטרנט. זה גם חשוב, אבל זה לא במקום.

זהו. זה מה שרציתי להגיד, אולי זה יעזור לנו טיפה למסגר את הדיון הזה ולשאול את השאלות המתאימות, אבל שוב, אם צריך איזה שהוא מסר מהדברים שלי, אין לנו דאטה ועד שלא יהיה לנו דאטה, לא רק לגבי כמה כתבי אישום הוגשו, אלא פילוחים וחיתוכים לגבי חקירות ולגבי כתבי אישום, אבל בעיקר איך אתם מחליטים, מה מנחה אתכם, האם אנחנו יכולים להיות בטוחים שהמתודולוגיה שלכם לא יוצרת הטיות כלפי אוכלוסיות מסוימות. זאת שאלה שאני חושב שאפשר לעקוב אחריה באמצעות נתונים וצריך מאוד מאוד להשתדל ולעשות את זה. תודה רבה, אדוני.

ממש תודה רבה, ד"ר אלטשולר, למדנו ממך, תודה רבה שהגעת והסברת. עכשיו ידבר סייד חאלד קוט, בן זוגה של ספאא שנהרגה לפני שלושה שבועות. חאלד, אללה ירחם, משתתפים בצערך. בבקשה.

תודה לכולם. שלום לכולם. אני חאלד קוט, בעל המנוחה ספאא קוט, המורה שנהרגה מפגיעת טיל בבית שלה. האמת הכאב הוא עמוק, ההפסד הוא גדול, לי, למשפחה, לשכונה, לבית הספר שהיא עבדה בו, לתלמידים, לכל האנשים שהכירו אותה.

הכאב היה יותר גדול, לא רוצה לתאר כמה אנשים, מה שהיה ברשתות החברתיות. למרות הכאב הגדול והאבדה הקשה, במקום שהחברה וכלי התקשורת יכילו אותנו עם כל הצער שבעולם חווינו מתקפה גזענית שגרמה לנו להרגיש צער גדול ולכן אנחנו ננקוט בכל הצעדים בכדי להחזיר את הכבוד הראוי לאמא, לאישה, למורה, למחנכת ספאא.

אני נאלץ להפסיק, עד כאן, אני לא יכול להמשיך.

תודה רבה לך, תהיה בריא, שוקרן, שלום עליך, חביבי.

תודה לכם.

ממשיכים, ד"ר האמה אבו-קשק, מרצה בכירה במכללה האקדמית ספיר וחברת ועד מנהל באיגוד האינטרנט הישראלי. בבקשה.

שלום לכולם ותודה על ההזמנה, תודה לחבר הכנסת על הדיון בנושא החשוב הזה ומשתתפת כמובן בצער משפחת קוט. אני רוצה לשתף את המצגת.

(מצגת). אני רוצה לדבר על המרחב הדיגיטלי בחברה הערבית בצל המלחמה, ולפני שאני מציגה את ממצאי המחקר שלי בנושא המרחב הדיגיטלי והרשתות החברתיות בחברה הערבית חשוב לי לתת את הרקע על החברה הערבית והשימוש ברשתות החברתיות.

נתונים מסקרים קודמים שאנחנו עשינו באיגוד האינטרנט הישראלי מצביעים על כך שהחברה הערבית משתמשת ברשתות החברתיות בצורה אינטנסיבית יותר מהחברה היהודית והשימושים העיקריים של הערבים באינטרנט זה בעיקר לצורכי גלישה ברשתות החברתיות, באתרי אינטרנט ואקטואליה.

עם זאת מאז תחילת המלחמה אנחנו רואים שיש דיווח על ירידה בפרסום תוכן ברשתות החברתיות בקרב האוכלוסייה הערבית. הממצא הזה מדגיש את הצורך להבין את דפוסי השימוש וההתנהגות של הערבים ברשת, במיוחד כשאנחנו יודעים שהרשת היא כל כך דומיננטית וכל כך מרכזית בחברה הערבית. אז מה הסיבות לירידה בפרסום או שיתופי התכנים? וכאן אני אתייחס לכמה נקודות ובהמשך אציג את ממצאי המחקר.

בעקבות המלחמה התרחשה עלייה משמעותית במספר המעצרים של אזרחים ערבים. הנתונים מצביעים על כך ש-70% מהמעצרים בוצעו בשל פרסומים ברשתות החברתיות שסומנו על ידי הרשויות כפוגעניים או מסיתים אך רק ל-20% מהנעצרים הוגש כתב אישום. כמו כן הדיווחים מצביעים על חוסר איזון בהתייחסות המשפטית והאכיפה לביטויי המחאה שכן לא דווח על מקרים של מעצרים או הגשת כתבי אישום כנגד ישראלים דוברי עברית שפרסמו תוכן מסית נגד האוכלוסייה הערבית.

עוד נקודה חשובה וחשוב להתייחס אליה, בתחילת המלחמה אושר בכנסת תיקון מספר 9 לחוק המאבק בטרור על כל מה שכתוב בצריכת פרסומי טרור והחוק הזה קובע איסור פלילי על צריכה שיטתית וממושכת של פרסומים מסוימים של ארגוני טרור. מה החידוש בתיקון החוק? שגם הצורכים את התוכן, כלומר אנחנו לא מדברים רק על מפרסמים או מפיצים את התכנים, אלא אלה שצופים בסרטונים או קוראים את התכנים יהיו חשופים לפעולות של רשויות האכיפה, מעצרים והגשת כתבי אישום אם יעשו זאת באופן שיטתי וכמובן שהחוק הזה משפיע על חופש המידע של כלל הישראלים במרחב המקוון, כולל גם החברה הערבית.

זה הוביל אותי לבחון את כל ההשפעה של המלחמה על דפוסי השימוש וההתנהלות ברשתות החברתיות בקרב הערבים בישראל והשפעת תיקון חוק המאבק בטרור. המחקר בוצע בשיטה כמותית והסקר בוצע לאחר שבעה חודשים מתחילת המלחמה והשתתפו בסקר גם מהצפון ומהנגב והמשולש ומערים מעורבות.

לפי הממצאים אנחנו רואים ש-70% מהמשיבים דיווחו שהם שינו את הפעילות שלהם ברשתות החברתיות מתחילת המלחמה. פה הייתה שאלה פתוחה, אם הם יכולים לשתף אותנו בשינוי או בהבדל הפעילות מאז תחילת המלחמה ופה אנחנו יכולים לראות את התשובות שסופקו. חלק מהתשובות מציגות תמונה מורכבת של זהירות, חששות ושינוי בהתנהגות ברשתות החברתיות, כל הנושא של תחושת הפגיעה בחופש הביטוי, הזהירות המוגברת, הפחד מהשלכות משפטיות וביטחוניות. היו גם תשובות שאין חופש ביטוי, שיש סיכוי שיטילו עליך מאסר או קנסות, או הימנעות מפרסום עד כדי כך שהיו תשובות שהעידו שהם סגרו את החשבונות שלהם או הפסיקו את הפעילות שלהם ברשתות החברתיות. אחת המשיבות כתבה: הפסקתי לעקוב אחרי החדשות רבים וסגרתי את חשבון האינסטגרם שלי. וכמובן שיש כאלה שנמנעו מפרסום על מנת להימנע מפרשנות מוטעית של חלק מהמילים בשפה הערבית.

במחקר גם שאלנו אותם על השתתפותם ברשתות החברתיות בחודשיים הראשונים של המלחמה. מה שאנחנו רואים, 77% דיווחו שהם נמנעו מתגובה על פוסטים או סימון לייק או שיתוף פוסטים הקשורים למלחמה.

עוד שאלות שהיו במחקר התייחסו לדפוסי ההתנהגות במהלך המלחמה כך שאנחנו רואים ש-77% מהמשתתפים דיווחו על הימנעות מתגובה מצד אחד ומצד שני אנחנו לא ראינו ששינו את ההגדרות הפרטיות בחשבון האישי שלהם ברשתות החברתיות או לא נעלו את אפשרות התגובה. זה יכול לתת את הפרשנות שהם מלכתחילה לא הגיבו או לא שיתפו ולכן לא היה צריך את השינוי בהגדרות הפרטיות בחשבון. עם זאת אנחנו מצאנו כי מחצית מהמשתתפים הגבילו את התפוצה לקבוצה ספציפית.

כל משיב גם התבקש להעריך את המידה שבה הוא נמנע מלהביע את דעתו בקבוצות מעורבות של יהודים וערבים ברשתות החברתיות, כמו למשל קבוצת ווטסאפ, ונמצא כי מעל 80% נמנעו מהבעת דעה בקבוצות מעורבות ורק 7% בכלל לא נמנעו.

עוד משהו ששאלתי עליו, המשיבים התבקשו לדרג את הסיבות לחששות מהבעת דעה ברשתות החברתיות והם היו צריכים לדרג את זה מ-1 עד 5, כש-1 פירושו אין חשש בכלל ו-5 חושש במידה רבה מאוד ושאלתי האם החשש הוא ממעצר או חשש מהליכים משפטיים או פגיעה בלימודים או פגיעה בעסק או שיימינג או פגיעה בשם המשפחה, ומצאתי שמעצר והליכים משפטיים מעלים את החשש הגבוה ביותר בקרב המשיבים.

עוד נתון שחשוב לקחת אותו בחשבון, במחקר נבדק נושא תיקון חוק המאבק בטרור והשפעתו על השיקולים בצריכת תוכן ברשתות החברתיות, היו שתי שאלות שהתייחסו לחוק. האם המשיבים שמעו על החוק ואם כן, איך הוא השפיע על השיקולים שלהם בצריכת התוכן. בממצאים עולה שיותר ממחצית המשתתפים דיווחו ששמעו על החוק ואלה ששמעו על החוק, הרוב, 70%, דיווחו שהוא השפיע על השיקולים שלהם בצריכת התוכן.

לסיכום ולאור הממצאים האלה ניתן לראות שהמרחב הדיגיטלי בחברה הערבית הולך ונהיה יותר ויותר מושתק, יש שתיקה ויש לצד זה גם השתקה. יש לזה כמובן השלכות חמורות על חופש הביטוי וגם על הדיון הפוליטי בחברה. תודה רבה.

ד"ר האמה, תודה רבה. התרשמתי מאוד גם מתוכן וגם מצורת הדיבור, כל הכבוד.

חבר הכנסת ואליד אלהואשלה ביקש להתייחס. בבקשה, חבר הכנסת אלהואשלה.

תודה ליו"ר הוועדה, חברי איימן, על קיום הדיון החשוב הזה שמצריך מאיתנו בהמשך לדברים של האמה להסתכל בצורה אחרת על הסתה במדינה, במיוחד אחרי ה-7 באוקטובר, על ההשתקה של החברה הערבית, על ההשתקה של הציבור הרחב, סטודנטים, רופאים, מורים.

אני נגד הסתה, אנחנו כולנו נגד ההסתה ברשתות, במרחב הציבורי, בכל מקום, אנחנו נגד זה ואנחנו רוצים שיהיה שיח מכבד בין כלל אזרחי המדינה, זה א'-ב', אבל אנחנו לא יכולים להתעלם מהנתונים של כל הארגונים ושל ארגוני החברה האזרחים והממ"מ שמראים אפליה גדולה בין הנחקרים, בין הגשת התלונות, בין החקירות, בין 20% מכלל אזרחי המדינה, שהם החברה הערבית לבין אזרחי המדינה. ראינו בממ"מ כמה תלונות הוגשו נגד ערבים, 232, לעומת 20 בחברה היהודית, כאשר אנחנו יודעים ומזכירים תמיד שהחברה הערבית היא 20% מכלל אזרחי המדינה.

זה לא צריך להיות. קודם כל לא צריכה להיות הסתה, דבר שני, צריך מנגנון על מנת לטפל בכל ההסתה ברשתות, לא רק נגד הערבים, לכן חשוב שהראייה תהיה ראייה כללית לכלל אזרחי המדינה. איך האזרחים מושכים ושואבים את ההסתה ברשת ובכל מקום? מההנהגה, ואנחנו לצערי הרב רואים היום איך ההנהגה מדברת. השר לביטחון לאומי, שר הביזיון הלאומי, שאמור ואמון על ביטחון האזרחים הוא זה שמעודד הסתה, הוא מסית, הוא מסית כאן בפרלמנט נגד חברי כנסת, אז איך אזרחים לא יסיתו? לכן המערכת היא רקובה מלמעלה, שם צריך לעשות שינוי והשינוי צריך לבוא מהמנהיג שמוביל את המדינה ולצערנו הרב הוא לא יכול לעשות כלום היום.

לא, הוא יכול והוא עשה והוא עושה. בתחילת המלחמה הוא אמר שבפני ישראל מספר חזיתות, הוא מנה אותן, אחת מהן היא חזית פנים, כלומר האוכלוסייה הערבית. זה ראש הממשלה בנימין נתניהו.

והייתה חזית פנים? לא הייתה.

הוא המסית העיקרי.

לכן אני חושב שעל ההנהגה קודם כל להפסיק להסית נגד הרחוב הערבי. אף פעם לא תמצאו, אני רוצה לדבר על עצמי, לא רוצה לדבר על אחרים, אני מאמין שגם חבריי ככה, אני אף פעם לא מסית על יהודים או ערבים או נוצרים או דרוזים או בדואים, למה להסית? אנחנו לא מסיתים. גם על חברי הכנסת בתוך המשכן לא מסיתים, ולכן זה צריך לבוא מלמעלה, מהאנשים שמובילים את המדינה, שמנהיגים את המדינה ולדעתי בנושא הזה אנשים שנמצאים כאן מהמשרדים הממשלתיים, איימן, צריכה לבוא חקיקה שתגביל ותפקח על כל הנושא של ההסתה ברשתות.

ראינו מה קרה עם ספפא עואד כאשר היא נרצחה או נהרגה מירי רקטי, ראינו תגובות ברשת. זה לא מכבד אף אחד. אנשים נהרגים, אזרחי המדינה, והתגובות חסרות כבוד. לא ראינו שהמשטרה יזמה חקירה נגד המסיתים או עצרה מישהו אחד. המשטרה לא עשתה את זה.

נשמע עוד מעט מהמשטרה. תודה רבה לך, חבר הכנסת ואליד אלהואשלה.

רוני הרשקוביץ, מרכז המחקר והמידע של הכנסת, בבקשה.

תודה רבה, היושב ראש, אחר צוהריים טובים. אני אתייחס רק לכמה נתונים בנוגע לעבירות הסתה לטרור ובסוף אני אתייחס לעבירות הסתה נוספות, נתונים שקיבלנו מהפרקליטות אתמול בערב והיום. באופן כללי סוג העבירות הללו קצת מורכב מבחינת הטיפול של גופי האכיפה מהיות חלק מהעבירות משיקות לתחום חופש הביטוי. סכמתית אפשר לומר, אולי הפרקליטות והמשטרה אחר כך ידברו על זה גם.

ככלל יש עבירות ביטוי, חלק גדול מהן, שדורשות אישור חקירה מהמשנה לפרקליט המדינה (תפקידים מיוחדים) ובצד של המשטרה יש את חוליית חוות הדעת ואחר כך אגף חקירות ומודיעין ויש פינג פונג ביניהם ואני אתייחס רק לנתונים קודם כל של עבירות הסתה לטרור.

נקודה חשובה, בחודש אוקטובר 2023, אחרי שהתחילה המלחמה, אישר המשנה לתפקידים מיוחדים למשטרה לפתוח בחקירות באופן עצמאי עם הגבלות מסוימות ובאישור קצינה בדרגת רב פקד, וגם לזה אני אתייחס. חשוב לדעת שאי אפשר להשוות בין נתוני משטרה ופרקליטות, הם נספרים אחרת, תיקים עוברים שינויים במהלך שלבי התיק וכו', לכן אנחנו מציגים כמה נתונים בנפרד.

קודם כל נתוני המשטרה. מתוך מה שקיבלנו אני אציין שלושה דברים. באופן כללי ב-2023 עד ה-7 באוקטובר היו 160 פניות לחקירת עבירות הסתה, ומה-7 באוקטובר ועד סוף החודש האחרון מעל 1,500, כלומר מעל 1,500 לעומת 160 בכמעט שנה שקדמה לה. המשטרה אישרה באופן עצמאי, כמו שציינתי, פתיחת חקירה ב-105 פניות, ובהתחשב בכמויות של הפניות שהיו לאכיפת החוק בעבירה הזו, שוב, כמו שציינתי קודם, מעל 1,500, זו לא כמות גדולה. כאמור המשנה לתפקידים מיוחדים בפרקליטות הגביל את האפשרות הזאת לתמיכה מובהקת בחמאס, אבל אולי הפרקליטות או אם יש ייעוץ משפטי ירצו להתייחס לזה.

המשטרה לא שלחה פילוחים לפי לאום, זה דבר שביקשנו לצורך הדיון הזה, לגבי אף שלב בחיי התיק ולדברי התיק זה על מנת לא לייצר אפליה בפרטים ביחס לעבירות חופש ביטוי. לפני שנה וחצי בערך קיבלנו פילוח לפי לאום ופילוחים נוספים ועכשיו לא הצלחנו לקבל את הפילוח הזה, לא לגבי עבירות הסתה לטרור וגם לא לגבי התוספת שהם שלחו היום - - -

למה לדעתך, רוני?

אני לא יכול לדעת למה אין את הפילוח הזה, אני רק יכול לומר שלפני שנה וחצי קיבלנו פילוחים לפי לאום וגם בתוך הלאום מי שהיו תושבי ישראל או לא תושבי ישראל.

עוד מעט נשמע מנציג הפרקליטות או מנציג המשרד לביטחון לאומי בשביל להבין. אני חושב שדווקא במדינת ישראל, הלוואי שיש עיוורון כלפי הלאומים וכלפי הקבוצות, הלוואי שזה המצב האמיתי, אבל כנראה שזה לפי מה המטרה.

שתי נקודות נוספות לגבי הנתונים של הפרקליטות. כאן אני אתרכז בנתוני 2024 מאחר שהפרקליטות התחילה בסוף 2023 כן לרשום את סעיף הלאום היכן שהיא יכלה. מהנתונים שקיבלנו מהם לגבי 2024 בהחלט אנחנו רואים שנחקרו בגין עבירות הסתה לטרור באופן מובהק יותר ערבים. הנתונים נמצאים במסמך הממ"מ שיעלה גם לאתר.

כמה אחוז נגד ערבים?

בפתיחת חקירה, 92%.

92% ערבים, 8% מקבוצת ה-80%, ומקבוצת ה-20% במדינה 92%. מה להגיד?

מן הסתם אנחנו לא יודעים אם זה קשור לשכיחות העבירה בקרב האוכלוסייה הערבית או שזה קשור לאכיפה, אבל זה הנתון.

ביחס לסטטוסים אחרים, גניזה והגשת כתבי אישום, לא היו לנו מספיק מקרים עם פילוח לאום כדי לומר משהו ברור.

דבר אחרון, לגבי עבירות נוספות שקיבלנו ממש אתמול בערב, לגבי עבירות הסתה נוספות לאלימות וגזענות לפי סעיף 144 לחוק העונשין, המשטרה מסרה שאין לה פילוח ובנתוני הפרקליטות ב-2024, למרות שיש נתוני תיעוד חסרים, נתוני לאום חסרים, 58% מפתיחות תיקים שיש בהם לאום מתועד הם של חשודים ערבים.

תודה רבה לך, רוני. נציג פרקליטות המדינה, בבקשה, אדוני.

כפי שרוני ציין, בפרקליטות לפחות, החל מסוף שנת 2023, שנת 2024, כן יש פילוח לפי לאום. הנתונים הועברו למרכז המחקר והמידע של הכנסת, הם נמצאים במסמך.

אני חייב להגיד שזו התקדמות, לפני שנתיים זה לא היה כך.

חשוב לי להגיד שלושה דברים בהקשר הזה. קודם כל לגבי אופן הטיפול בפרקליטות, הפרקליטות היא גוף לא מבצעי, הוא גוף שמקבל בקשות לפתיחה בחקירה מגופים כאלה ואחרים, ברגע שהוא מקבל את הבקשה יש פרוצדורה שהיא מאוד מאוד סדורה, לפי אמות מידע שבעיקרן הן קבועות בחוק. עבירות הביטוי הן עבירות רגישות, הן דורשות איזה שהיא מיומנות משפטית, אני קורא לה אמנות משפטית, כדי לנסות לבדוק האם באמת יש הצדקה לפתיחה בחקירה, כן או לא.

בהקשר של מתן האישור למשטרה כן לפתוח בחקירה באופן עצמאי בעבירה של גילוי הזדהות במקרים ספציפיים שאני אדבר עליהם, יש הבחנה בין עבירה של גילוי הזדהות עם ארגון טרור לעבירת הסתה לטרור מכיוון שההבדל המרכזי הוא שבעבירת הסתה לטרור אנחנו מחפשים יסוד הסתברותי. זו עבירה שהיא עבירת פוטנציאל, היא לא עבירה שחותרת, כפי שחברתי ד"ר אלטשולר ציינה, לאיזה שהיא תוצאה, היא לא מחפשת תוצאה, אלא עבירת פוטנציאל, אנחנו מחפשים הסתברות להתרחשות מסוימת והחוק יוצר שקילות בין הפוטנציאל לבין ההתממשות שלו. ההערכה הזאת דורשת מיומנות, בשונה מעבירת גילוי הזדהות שלא דורשת יסוד הסתברותי ורק דורשת יסוד מטרה, אנחנו מחפשים לאתר ולבדוק ולבחון האם אותו אדם שפרסם פרסום כזה או אחר רצה, הייתה לו מטרה להזדהות עם ארגון טרור.

האישור שניתן למשטרה לאשר פתיחה בחקירה באופן עצמאי ניתן אך ורק למצבים מוגדרים ומובהקים מאוד. למשל, אני אתן דוגמה, כשאדם מפרסם דגל של ארגון הטרור חמאס ומציין שהוא משבח את המעשים של הארגון הזה, כאן לא נדרשת איזה שהיא מיומנות, זה ברור שאותו אדם שפרסם את אותו פרסום הייתה לו מטרה להזדהות עם ארגון הטרור ובעצם ישנו חשד סביר שמאפשר פתיחה בחקירה.

נקודה נוספת לגבי המתודולוגיה שחברתי ד"ר אלטשולר דיברה עליה. כלל הפרסומים בסופו של דבר, אנחנו תמיד מדברים על שלב הפתיחה בחקירה, מרגע שמגיע תיק לפרקליטות, מגיעה בקשה והיא מטופלת. בהינתן שהוחלט לפתוח בחקירה בסופו של יום אותו פרסום או שורת פרסומים עוברים שרשרת של גורמים שמעיינים באותם פרסומים, החל ממשטרת ישראל, כשבתוך משטרת ישראל יש שורה של גורמים, לאחר מכן זה מגיע למחלקה שלנו, תפקידים מיוחדים, וזה עולה מרמת המתמחה ועד רמת המשנה לפרקליט המדינה (תפקידים מיוחדים), לאחר מכן שוב פעם גורמי הלשכה של פרקליט המדינה כשפרקליט המדינה נדרש לכל פרסום ופרסום ובקצה כמובן היועצת המשפטית לממשלה והצוות שלה. זאת אומרת כל פרסום, מכיוון שמדובר בעבירות ביטוי, נסרק במסרקות של ברזל.

ומה הקריטריונים?

הקריטריונים ברמת העיקרון קבועים בחוק עצמו, אנחנו מחפשים את היסוד התוכני, את הנסיבות של כל פרסום. הנושא הזה, אני מסכים, הוא תיאורטי, יש כאן משהו שלא בכדי, בשונה מעבירות אחרות, כאשר מדובר בעבירת תקיפה, מישהו נתן למישהו מכה כזו או אחרת אז אנחנו מבינים שבוצעה עבירה, יש כאן עניין שהוא תיאורטי, יש כאן עניין שהוא מופשט. אין צורך להתרגש ולהירתע מנושאים שהם מופשטים, מצד שני קשה מאוד לבצע המשגה באמת ולקחת שורה של – יש מקרים ויש מצבים שבהם הבדיקה היא קזואיסטית, אנחנו לוקחים מקרה כזה או אחר ובוחנים, בעצם כל מקרה לגופו.

עו"ד בן שלום, יש דברים שהם ברמה של ויכוח פוליטי. יש לי עמדה מאוד ערכית, עמוקה, יציבה, נגד פגיעה בחפים מפשע. אם תשאל אותי למשל על 7 באוקטובר, לחטוף תינוק בן שנה, אישה בת 88, לרצוח אנשים שרוקדים במסיבה, זו בעיקר פגיעה מוסרית עמוקה מאוד מאוד מאוד. יחד עם זאת אני מאמין שיש זכות לכל עם נאבק להיאבק בכובש. אני מאמין בזה, זה נכון בכל מקום בעולם, וגם יש זכות לעם הפלסטיני, אני מאמין בזה כי אני מאמין בסוף שיש שני עמים שמגיע לשניהם זכות להגדרה עצמית, מדינה לצד מדינה.

זה ויכוח פוליטי, אתה יכול להסכים או לא להסכים, אבל יש דברים שאי אפשר להתווכח עליהם וזה קריאה לפגוע באנשים חפים מפשע. אי אפשר להתווכח על זה. למשל אם ערבי קורא לרצוח יהודים, לכולנו צריכה להיות עמדה מאוד ברורה נגד. ואם יהודי קורא להרוג ולרצוח ערבים אזרחים, או למשל לא אזרחים, תושבי עזה, למשל אין חפים מפשע בעזה, צריך להרוג את כולם. אני בעצמי ראיתי לפחות מאות אנשים, אני אישית, אני יודע שיש אלפים ועשרות אלפים, אבל מה שאני ראיתי זה מאות אנשים שכתבו את הדברים הללו. האם הזמנתם אותם לחקירה? האם הגשתם כתב אישום? או שיש איפה בין אדם לאדם, בין חף מפשע לחף מפשע לפי הלאום שלו? אם הוא ערבי זה משהו ואם יהודי משהו אחר ואם עזתי אז זה משהו אחר לגמרי.

אני אענה מהזווית הטכנולוגית בכוונה, אני חושב ששם יש איזה שהוא חסם שאפשר להסיר אותו. הטכנולוגיה מאפשרת היום באמצעות כניסה לאתר משטרת ישראל להגיש תלונה. אדם לא צריך לצאת מהבית וללכת לתחנת משטרה ולהגיש תלונה, לטרוח, להניע את הרכב ולנסוע לתחנת משטרה הקרובה לביתו. הוא יכול לשבת בבית, בדיוק כמו שאדם יכול לפרסם פרסום כזה או אחר, מסית או לא מסית, לגיטימי או לא לגיטימי, הוא יכול להיכנס למחשב, לאתר כל פרסום שנראה לו, הוא מגלה איזה שהוא חשד סביר לביצוע עבירה פלילית, מסית או לא מסית, לקחת את הפרסום הזה, לשלוח אותו בהגשת תלונה מקוונת למשטרת ישראל וברגע שמוגשת תלונה מקוונת למשטרת ישראל זה כבר עניין טכנולוגי, זה לא נתון לשיקול דעתו של איזה שהוא גורם אנושי.

יש לכם דאטה על המענה?

חייבת להיפתח, נפתחת באופן אוטומטי תלונה עם מספר תיק פל"א, אותו אדם הופך להיות מבחינה משפטית מוגדר מתלונן והתיק חייב בדרך כזו או אחרת להיות מטופל במשטרת ישראל. המשטרה, ברגע שמוגשת תלונה לעבירת הסתה היא לא יכולה גם לגנוז את התיק. לא רק שהיא צריכה אישור פתיחה בחקירה, אלא היא גם לא יכולה לגנוז את התיק, התיק הזה יהיה חייב לעבור דרך כל אותה שרשרת אישורים לכאן או לכאן.

אין לי איזה שהם נתונים עובדתיים, לי אין יכולת לעמוד כאן, אם הייתי יכול הייתי עושה את זה, ולדעת ולנסות להסביר, ואני לא מתעלם מהנתון הזה, הנתון הזה הועבר לידי הפרקליטות, 92% מול 8%, אבל אני חושב שאם אנחנו רוצים להסיר את החסם אחד הפתרונות, והוא פתרון מאוד פשוט, הוא פתרון שכל איש ואישה, ילד ילדה, נער נערה, יכולים לנקוט בפעולה הטכנולוגית הזאת שחייבת לגרור את הרשויות, זה לא איזה שהיא הוראה שצריכה לבוא מלמעלה, זה אחד היתרונות הטכנולוגיים של האינטרנט, לאפשר בעצם - - -

מה להגיד לך, עו"ד בן שלום?

לא משכנע? אני מדבר ברצינות. זה כלי שמאפשר - - -

האמנית למשל, דלאל אבו אמנה, שכתבה אמירה דתית, אין מנצח חוץ מאלוהים, אמירה דתית. היא נחקרה, ישבה בכלא מספר ימים. תשמע, יש דברים אמורים שקורים.

חוץ מזה אני רוצה לספר לך, בשם האוכלוסייה הערבית, אתה חושב שיש אמון במערכת? אתה חושב? האפליה והגזענות נכנסו לכל מקום בצורה הנפשעת ביותר. אני אומר לך את זה בשיא הרצינות. אני לא אומר שהמצב היה אידיאלי לפני 20 שנה, אף פעם לא היה כך, אבל מה שקורה בשנים האחרונות ובמיוחד אחרי 7 באוקטובר זה איום ונורא.

אני חושב שכל האנשים שעובדים במערכת צריכים לשאול את עצמם האם אנחנו רוצים להיות אנשים הגונים, מוסריים, שוויוניים, דמוקרטיים, או שוויתרנו על זה, ויתרנו על השאיפה, על הרצון. אני לא אומר שזה היה כך, אבל אני בטוח שהיו אנשים שרצו את זה פעם, השאלה מה המצב היום. אני חושב שזה מצריך בדיקה עמוקה בתוך כל מערכת ומערכת.

אני רק אגיד עוד משפט אחד בהמשך לדברים האחרונים שאמרת. אני כמובן לא יכול להעיד ולדבר בשם כל המערכות, אני יכול להגיד לך שעל שולחננו, במחלקה שלנו, אני היום מאשר את כל תיקי המניע הגזעני שמוגשים במדינת ישראל, כולם עוברים דרכי, כולם עוברים תחת ידיי, כולם מונחים על שולחני, והעבודה מתבצעת ואיך אומרים? ידינו נקיות. אני יכול להגיד בפה מלא ולהישיר מבט, מה שמועבר לשולחננו – שוב פעם, יכול להיות שישנם חסרים כאלה ואחרים, מה שמגיע לשולחננו מטופל בידיים נקיות.

תודה רבה, עו"ד בן שלום. נציג המשרד לביטחון לאומי או המשטרה.

אנחנו העברנו את הנתונים כפי שהתייחס רוני, אני יכולה לומר שמרבית מהשאלות, כפי שציינו, אדוני, לא יכולנו לפלח. במערכת שלנו כיום אין יכולת פילוח ללאום, אין יכולת פילוח למגדר.

באמת זה קשה? אם תשאלו אותי מי פה ערבי ומיהו יהודי אני יכול להגיד.

זה גם היה.

אני עוסקת בזה, אדוני, ביום יום. אני וחבריי בין היתר מוציאים מתחת לידינו - - -

אם יש הרוג כתוצאה מפשיעה אזרחית, לא יודעים מי ערבי ומי יהודי? אם למשל נהרג מוחמד מנצרת או סמיח מחיפה, העיר שלי, באמת לא יודעים מי ערבי ומי יהודי?

גם העיר שלי, אדוני.

אלה דברים כל כך טריוויאליים, כל כך פשוטים. מאמץ קטן, לפעמים לא צריך מאמץ, אבל מאמץ קטן, באמת אי אפשר לדעת?

אני שומעת את אדוני ואני אשיב. מבחינת פילוח הנתונים במערכת, אדוני, לא ניתן לפלח הגדרות של לאום, כמו שלא ניתן לפלח הגדרות של מגדר. אדוני רואה את העלייה הניכרת במספר הפניות, במספר התיקים, אנחנו מדברים על מעל 1,500 תיקים רק בשנה האחרונה - - -

דנית, זו לא האשמה שלך.

לא, אבל אני מנסה להשיב לאדוני כדי להניח את דעתו.

זו לא האשמה שלך, אבל השר שלך יודע בדיוק מיהו ערבי ומיהו יהודי. כל בן אדם ששומע אותנו עכשיו מה יגיד? מה, המערכת הזו באמת לא יודעת? אם אני רוצה לדעת למשל את מספר הנפגעים הערבים, מספר נפגעי הפשיעה במדינת ישראל הערבים או האחוז שלהם, אם אני רוצה לדעת מי הוזמן לחקירה, כמה ערבים, כמה יהודים, מדינת ישראל לא יודעת את זה? לא יכולה לדעת את זה? האם יש מישהו שמאמין בזה?

אני אומר לאדוני שלפי המערכת של מדור חקירות אנחנו כן יכולים לפלח בהתאמה למחוזות המשטרתיים ומשם אולי לגזור גזרה לגבי מקום ביצוע העבירה, לגבי מקום מגורי הנאשם, החשוד לצורך העניין. לגבי מגדר ולאום - - -

את חיפאית?

אני נולדתי בחיפה, במקור אני ממושב ארבל.

בסדר גמור, שנינו חיפאים.

שנינו צפונים.

אם עכשיו ניפגש עם 100 אנשים בחיפה, שיחה של חצי דקה, עם השם, עם כל המאפיינים, גם את וגם אני נגיד זה ערבי, זה יהודי. זו גם מדינה שיש לה תעודת לידה שכתוב בה גם הדת, הכול ידוע. מה קרה? איך אפשר לזלזל באנשים בצורה הזו? זה כל כך קל. תעודת לידה, יש מוסלמי, יש נוצרי, יש יהודי, יש גם את הלאום.

אדוני, אני לרגע לא סבורה שמדובר בזלזול, אני חושבת שפילוח הנתונים של מדור חקירות בבסיסו זה ניתוח נתונים אובייקטיביים ומקצועיים, לרגע אנחנו לא פונים למסלול של מגזרים. על שום כך זה גם לא מפולח.

אבל טכנית אפשר לעשות דבר כזה.

בוודאי, אבל גם כשמדברים על פוליטיקה, דנית - - -

אני מתנצלת, אני לא בן אדם טכני.

דנית, כשמדברים על פוליטיקה ועל הסתה והסתה לטרור - - -

מעניין, אני באתי מדיון אחר על הרחקת סטודנטים ושם כשמדברים על הסתה באוניברסיטאות מדברים על לאום בצורה חד משמעית, פתאום אין לכם את הנתונים?

גם אני הגעתי מהוועדה הזו, סיימתי שם כשהם עוד דיברו והגעתי לוועדה הזו, אין שם שום נתונים שונים.

דנית, סליחה, כשמדברים על הסתה והסתה לטרור בצל סכסוך פלסטיני ישראלי, הנושא של הלאום לא חשוב?

אני אומר לאדוני בכנות, לא חשוב. אנחנו בוחנים משפטית לפי המובא לשולחננו. אני מתנצלת שזה לא מניח את דעתו של אדוני.

אתם לא מפלחים את זה, למשל באיזה שפה היה הביטוי שעל בסיסו עכשיו פותחים חקירה?

אין פילוח שכזה, בשום פנים ואופן לא, כי זה לא רלוונטי.

אין פילוח כזה? אתם עיוורים לשאלה הזאת? זה לא רלוונטי?

דנית, בבקשה, כשהפשיעה גואה בקרב האוכלוסייה הערבית בצורה לא נורמלית, לא בודקים מאפיינים? למה, מה הנושא, הרקע? אני לא מבין. זו מקצועיות? אני לא מבין.

גם למשטרה היה פילוח לפני שנה וחצי, זה מה שכתוב במסמך של הממ"מ, אז איך זה קרה שזה השתנה?

אני אומר שאני לא מכירה את המסמך הזה, אני כן אומר שאנחנו הכנו מסמך מפורט עם נתונים ועולה שלא ניתן לפלח. המחשבה הגיונית, אנחנו לא מפלחים כי לא מדובר בעניינים מקצועיים, לא מדובר בעניינים אובייקטיביים, משם זה מגיע.

מה לא אובייקטיבי בלהגיד אם בן אדם הוא יהודי או ערבי או מה הגיל שלו?

כי מבחינתי זה לא על השולחן, הטיפול הוא אותו טיפול.

ומבחינת הפרקליטות זה כן על השולחן? הם כן אוספים את הנתונים האלה.

אני לא יכולה לדבר בשמם, ייתכן שלמערכת שלהם יש אפשרויות אחרות.

אתם שלובים.

מבחינתנו זה לא רלוונטי מהמובן שהטיפול הוא אותו טיפול.

אם זה לא רלוונטי למה 92% הם ערבים? למה? איך? אם יש אלפי יהודים שאמרו שצריך למחוק את עזה, אין חפים מפשע, צריך להרוג את כולם, אין ילדים, אין טף, אין כלום, צריך להרוג את כולם, ו-8% יהודים ו-92% ערבים? מתי אתם רואים מי זה ערבי, מתי אתם לא רואים? ביקשתי פילוח פשוט, צריך לבדוק את זה ולהביא את הנתון. או שאתם רוצים להסתיר, אולי 99% ערבים? אולי, ואתם לא רוצים להגיד את זה פה? אולי אתם לא רוצים להגיד את האמת, חברים, האמת, 99% הם ערבים.

יסלח לי אדוני, אבל אני אומר בצורה ברורה שאנחנו לא מנסים לטייח שום דבר ולא מנסים להסתיר שום דבר, אין אפשרות פילוח, לא כלפי מגזר, לא כלפי מגדר ולא כלפי לאום.

כשמישהו נעצר, בטופס שממלאים כשמישהו נעצר, ברור שיש שם, יש שם את כל הפילוחים האלה. אז עוד פעם, תסבירי לי איפה התקלה. אני באמת לא מבינה.

אין פה שום תקלה, הטיפול הוא טיפול זהה לכולם.

אבל ברגע שעצרתם מישהו את כבר יודעת אם הוא ערבי או יהודי כי זה כתוב, אנחנו מכירים את הטפסים האלה, אפילו נטייה מינית כתוב כשאת שולחת מישהו למעצר, כדי להגן עליו. את מהמשטרה, אני פשוט מכירה את הטפסים האלה, אז איך יכול להיות שכשעוצרים מישהו יש את כל הדברים האלה, אבל פתאום עכשיו את אומרת שאין לך שום נתונים?

זה לא מה שאמרתי, שאין לי שום נתונים, אני מפנה אותך לנתונים שהועברו. בואי נשים דברים על השולחן, הועברו נתונים.

אבל זה לא דברים שיכולים להסתיר.

עם הבקשה שאת מבקשת היום אני עומדת ואומרת בצורה ברורה שאין לנו אפשרות לפלח לאום, כמו שאין לנו אפשרות לפלח מגדר.

אני שואלת עוד פעם, לאום, מגדר וגיל, אפילו תעשי רק מגדר וגיל, יש בזה כל כך הרבה ערך כדי להבין את השאלה הזאת של מי מסית ברשתות. אולי בסוף נגלה שכולם ילדים מתחת גיל 18, נניח נניח, איך אפשר להתמודד ברמה שיטורית עם חוסר בדאטה כזה?

ההתמודדות שלנו היא לנהוג בכולם ככולם, אין פה איפה ואיפה.

אבל בסוף הנתונים מראים שיש איפה ואיפה.

סליחה, דנית, את מדברת ברצינות על המשטרה? ועדת חקירה ממלכתית, ועדת אור, זה לא אני, אמרה שהמשטרה מתייחסת לערבים כאל אויבים ולא כאל אזרחים. זו ועדת חקירה ממלכתית שקבעה שהמשטרה מטפחת תרבות שקר. זה לא אני, זו מילה במילה ממה שנכתב בדוח של ועדת אור. את חושבת שהאזרחים הערבים מרגישים כלפי המשטרה שהם מתייחסים אליהם בהוגנות ובשוויוניות כמו היהודים?

דנית, אין משהו בינינו, אני לא רוצה לפגוע בך ברמה האישית, אבל איך את עונה לי כך? איפה אנחנו חיים? באמת המשטרה לא יודעת מי זה ערבי ומי זה יהודי כשמדובר על הסתה לטרור? אני לא מדבר על גניבת תרנגולת, איך יכול להיות? אני רוצה את הפילוח, אני רוצה לדעת את המידע האמיתי. אני מבקש ממך, קחו חודש ותביאו לנו את המידע לוועדה הזו.

אז אני חוזרת בכבוד רב ואני אומרת לאדוני, מבחינת המערכת אין אפשרות לפלח.

זה טכני?

אולי בעזרת בינה מלאכותית.

אני לא בן אדם טכני כדי לומר. אין אפשרות פילוח בזהה לכך שאין אפשרות פילוח של מגדר.

תודה רבה, דנית. יהודה בן יעקב, מנהל מדיניות, חברת מטא. לא יעזור לכם, תישארו פייסבוק אצל ההמונים.

קודם כל תודה על ההזמנה. באמת אני אישית ואנחנו שמחים להמשיך את הקשר עם הוועדה שהוא מבוסס שנים אחורה על הנושאים החשובים האלה. אני כן רוצה לנצל את ההזדמנות, לא יודע אם חאלד עוד איתנו, הוא בטח לא איתנו על הקו, אבל אני משתתף בצערו, בצער המשפחה והקהילה על הכאב עם לכתה של ספאא וגם על הכאב הנוסף שהם היו צריכים לחוות בעקבות החוויה הזאת של התגובות ברשת.

תודה, מילים כדורבנות, יהודה.

אני לא רוצה להגיד שאני בעצמי באופן אישי נדרשתי ללא מעט מקרים כאלה מאז תחילת המלחמה שבהם תגובות מגיעות אחרי אירועים, אם זה חללי צה"ל, אם זה אנשים מעיר הולדתי, מעלות תרשיחא, שנהרגו במלחמה, אזרחים, חיילים, אז אני מבין את הקושי והכאב.

אני כאן כדי להתייחס לחלק מהדברים שנאמרו וכן חשוב לי להגיד איך אנחנו מסתכלים מהפלטפורמה בהקשרים האלה. אני לא יודע כמה זמן יש לי, אני יכול לדבר הרבה.

שלוש דקות.

אני אנסה להיות תמציתי, אבל אני כן רוצה להתייחס כדי להבין את הדברים.

יש לך עוד שלוש דקות.

בנושא של כללי הקהילה יש לנו סט שלם של כללים שנוגעים בהרבה מאוד דברים של מה מותר ומה אסור בפייסבוק או באינסטגרם. יש כללים בנוגע לשיח שנאה, אותו hate speech, גזענות, יש כללים שקשורים לבריונות ולהטרדה והתגובות האלה שראינו, שאתה הקראת, אדוני, כן חשוב לי להגיד שהתגובות האלה כבר לא נמצאות מכיוון שרוב מה שאתה הקראת אלה תגובות שמפרות את כללי הקהילה.

לא נעשה מזה סמינר על כללי הקהילה, נתמקד בנושא עצמו. בנושא עצמו, אנחנו מדברים על אירוע שבו יש הפרה שיטתית של מה שנקרא אצלנו כללים בנושא בריונות והטרדה. למה זה לא שיח שנאה בהקשר הזה? כי יש לנו כללים שאוסרים על לעג למת, או אוסרים על חגיגה של מוות של אדם פרטי. הדבר הזה זה דבר שאנחנו אוכפים אותו בצורה מאוד רצינית, אין מקום לתוכן כזה בפלטפורמות שלנו.

מה אני כן רוצה להגיד בהקשר הזה שקשור לשאלת המדיניות לעומת אכיפה? הנושא של אכיפה הוא תמיד מאתגר. נסעתי בדרך לפה בכביש 1, כמה אנשים עקפו אותי מעל המהירות המותרת, אני לא יודע כמה מהם נעצרים, כמה מהם נחקרים, וברור שאכיפה זה דבר מאתגר.

אז אני כן רוצה שנחשוב על שני סוגים של תוכן בהקשר הזה. יש תוכן שהוא מאוד מובהק, יכול להיות כתוב משהו, למשל בכללים שלנו לגבי שיח שנאה יכול להיות כתוב משהו כמו: כל ההומואים סוטים. אני בכוונה אומר משהו בוטה, אבל הכללים שלנו בנושא הזה לא מאפשרים לתקוף קבוצה על רקע המאפיינים המוגנים שלה ולכן האמירה הזאת היא מחוץ לכללים שלנו.

האמירה הזאת היא גם מאוד מובהקת ובדברים האלה יש לנו נתונים מעולים, 96% מהתוכן בעולמות האלה המובהקים יורד עוד לפני שאנשים מדווחים לנו עליו מכיוון שיש לנו מערכות אוטומטיות שמוצאות אותו. למערכות אוטומטיות יותר קשה עם תוכן כמו, מהתגובות שאתה הקראת, 'בוא נוציא בקלאווה' או משהו כזה היה שם. זו אמירה שיכולה להיאמר בכל כך הרבה הקשרים והיכולת להבין שבתגובה ביחס לתמונה הספציפית, לדיווח החדשותי שהיה שם, מערכת אוטומטית, עם כמה שהבינה המלאכותית הולכת ומשתפרת הרבה יותר קשה לה במקרים האלה, בשביל זה יש לנו בודקי תוכן אנושיים. אבל הדברים האלה לוקחים יותר זמן, הם יותר מורכבים והם דורשים הרבה יותר הקשר ולכן זה משהו שיכול לקחת קצת יותר זמן, אבל כמו שאמרתי, התגובות האלה ירדו מהפלטפורמה.

גם כשבמילה עצמה שמים נקודות באמצע בשביל שלא יגיעו, כלומר מונח מסוים, אני בעד ל- שתי נקודות, רוג אאא. אז אפשר להגיע גם לזה בדרך הטכנית?

אני מבין את השאלה. לאוטומציה יש כמה רמות. יש אוטומציה, נקרא לה טיפשה, היא מחפשת מילות מפתח ועל בסיסה היא מנסה לנטר כמה שיותר תוכן, אבל אנחנו בעולם קצת יותר מתקדם ולכן מערכות בינה מלאכותית יודעות ללמוד את כל ההטיות האלה והניסיונות להחליף מילים, אפילו אימוג'ים שיש להם הקשרים מסוימים, ולהתמודד איתם בצורה טובה יותר. הדבר הזה הולך ומשתפר לפי הנתונים שלנו. כמובן אכיפה זה דבר מתמיד מאתגר.

כמה ערבים יש בשפה הערבית? וגם עניין תרבותי, כלומר יש דברים שחלק מהעם מבין את התרבות, את המטרה, כי זה לא רק המילים הטכניות. כמה ערבים עובדים אצלכם בנושא הזה ספציפית?

זה קצת מתקשר לדיון הקודם, אנחנו לא מתייגים את העובדים שלנו על בסיס השיוך האתני שלהם. בעולמות בדיקת התוכן והאבטחה וכדומה יש אנשים שבאים מהרקעים האלה.

יש דברים בקשר לשיוך הלאומי, במקום של מדינת כל אזרחיה, הכול יפה, לא רואים את האנשים, אני יכול להבין את התשובות הללו, אבל בעידן שיש ייצוג הולם בגלל שצריך ערבים, בגלל שהערבים הם פחות מ-20%, אז אלה שאלות שמבחינה עובדתית הן שאלות חשובות.

אני מקבל את האמירה - - -

אבל אדוני אולי רוצה לשאול, ראשית, האנשים האלה לא נמצאים בארץ, אתה מצפה לסוג של שוויון כאילו האנשים נמצאים בארץ, בודקי התוכן לא נמצאים בארץ. אולי שאלה יותר נכונה להפנות זה כמה אנשים אחראים על בדיקת תוכן בעברית בפייסבוק כשמוגשות לגביו תלונות או חששות וכמה אנשים אחראים על בדיקת תוכן בערבית כשמגיע על ידי משתמשי ה-IP ישראליים או בכלל.

אני קודם כל חושב שיש לא 100% רלוונטיות לשאלה הזאת, קודם כל לתוכן יש הרבה גוונים וצורות, הוא יכול להיות גרפי, הוא יכול להיות בצורה של סרטון או תמונה וכדומה ולכן השפה עצמה היא לא תמיד בהכרח המומחיות שאנחנו מחפשים. אולי דוגמה אחת, יש אימוג'ים מאוד מסוימים שמשתמשים בהם בהקשרים של ניצול קטינים ברשת. אותם אימוג'ים, מי שמומחה בעולמות האלה, אנחנו רוצים שדווקא התוכן הזה יגיע אליו ולא למי שדובר את השפה שבה הפוסט נכתב.

לכן המערכות האוטומטיות שלנו הולכות ומשתפרות כדי לנתב את התוכן לאדם המתאים ביותר עם ההקשר המתאים ביותר כדי לבדוק את התוכן. זה נכון שזה אתגר ובכלל אכיפה שוויונית כקונספט זה אתגר מכיוון שאנשים באים מרקעים שונים ומדעות שונות, אני לא צריך להגיד את זה כאן בבית הזה שידוע במגוון הדעות שלו, אבל אנחנו עושים את המקסימום כדי שהדברים יגיעו לאכיפה רלוונטית בזמנים מאוד מאוד קצרים.

אנחנו מאמינים שבגלל שיש לנו פלטפורמה שמשרתת יותר מ-3.6 מיליארד אנשים ברחבי העולם שהדרך הנכונה להתמודד עם האתגר הזה זה השקעה מסיבית בטכנולוגיה שתדע להתמודד עם זה ופחות בלהוסיף עוד 100, 200 או 300 אנשים.

אז כמה אנשים?

אני עניתי בהתחלה שזה לא מספר שאני יודע לשתף אותו ואנחנו גם לא מתייגים את המספר. אני לא חושב שזה מצחיק, מכיוון שזה לא מספר שאנחנו יודעים לשתף אותו.

זה לא מצחיק, אבל צריך להכיר קונטקסט של תרבות כדי להתייחס באופן אמיתי לתוכן. עם כל הכבוד לאוטומציה, יש אדם בתווך אז ראוי שלאדם הזה יהיו את היכולות הרלוונטיות. זו שאלה מתבקשת והתשובה - - -

יש אנשים מכל הרקעים, המספרים שלהם יכולים להיות רלוונטיים יותר או פחות, לדעתי פחות רלוונטיים מכיוון שהמספרים שלהם לא מעידים על איכות או יכולת להתמודד עם הנתונים האלה שאתם מעלים.

אתה יכול להעביר לי תוך שבוע, תוך חודש, כמה ערבים עוקבים אחרי השפה הערבית וענייני תרבות ותפיסה תרבותית בעניינים הללו?

אני לא חושב, אבל אני אבדוק ואני אשמח לחזור אליך בנושא.

שאלה, דווקא בתחום המכני. ידוע באופן כללי שקיימים קמפיינים זרים שהם מפעילים בוטים בצורה כזו או אחרת על מנת לפלג את החברה בישראל, זה לא סוד, והשאלה כמה יכולות וכמה התמודדות מכנית או איך שלא תקרא לה שיש לחברה להתמודד עם בוטים כאלה, לזהות אותם בקונטקסט של תכני הסתה כאלה ואחרים.

השאלה היא לגבי מה שנקרא התערבות זרה, או במינוח המקצועי שלנו זה נקרא CIB, Coordinated Inauthentic Behavior. אנחנו מפעילים המון מערכות כדי להתמודד עם הדבר הזה, אנחנו חברה שידועה ביכולת שלה להתמודד עם זה. אנחנו מפרסמים דוחות רבעוניים שמראים על רשתות ההשפעה שאנחנו מורידים כולל כאלה שהשפיעו על השיח בישראל שמקורן באירן או בלבנון או במקומות אחרים.

הדוחות האלה שקופים?

כן, הדוחות האלה מפורסמים כל רבעון, אפשר למצוא אותם. אנחנו משקיעים בזה המון המון משאבים. אנחנו מורידים מיליוני חשבונות מזויפים כל רבעון מסביב לעולם. זה ברור שזו מערכת שהיא כל הזמן מותחת אותנו לקצה. ה-bad actors, אותם אנשים שרוצים לייצר את ההשפעות האלה, הם משתפרים בטכניקות שלהם, אנחנו משתפרים בטכניקות שלנו, אבל האנשים עם היכולות הגבוהות ביותר נמצאים אצלנו בחברה.

זו שאלה של השקעה אולי.

נכון, ואנחנו משקיעים בזה המון.

תודה רבה, יהודה. לירון ריפמן, בזום. בבקשה, לירון.

שלום לכולם, כבוד יושב ראש הכנסת.

עדיין לא, לא היה ערבי מאז 1948 עד עכשיו יושב ראש הכנסת, אבל אין הבדל בין ערבי ויהודי, לא במשטרה, לא ברשתות ולא שום דבר.

אני רוצה קודם כל להודות על ההזדמנות לשתף אתכם בפעולות של טיקטוק להתמודד עם שיח פוגעני והסתה ברשת. תודה על הדיון החשובה הזה. אני רוצה גם כן להשתתף בתנחומים למשפחה ולהגיד שבאמת התגובות שהקראת הן תגובות מחרידות.

מילים חשובות.

בטיקטוק אנחנו רואים בכבוד הדדי את הבסיס לקהילה שהיא משגשגת בפלטפורמה והמדיניות שלנו נועדה להבטיח שמשתתפים ירגישו בטוחים כדי להביע את עצמם, גם בהקשר למחקר שהשמעתם פה בוועדה. אנחנו רוצים לעשות את זה תוך שמירה על הכבוד של כל אדם בקהילה שלו ולכן תוכן שתוקף קבוצה של אנשים על בסיס מראה, מצב בריאותי, נסיבות או השתייכות לאיזה שהיא קבוצה מוגנת אסור בפלטפורמה.

ואני רוצה להגיד את זה בשני עקרונות מרכזיים ביחס לתכנים שהעלו פה. תגובות מהסוג הזה, כמו שהקראתם בתחילת הדיון, הן אסורות על בסיס שני עקרונות מדיניות מרכזיים, האחד זה איסור שיח שנאה ותוכן פוגעני, אנחנו לא מתירים שום דברי שטנה או קידום אידיאולוגיות של שנאה, וכל תוכן, כמו שאמרתי, שתוקף קבוצה מוגנת, הוא אסור, וגם יש הגנה על משתתפים מפני הפגיעות האישיות, מפני בריונות, לכן תגובות מהסוג הזה אסורות גם בגלל שהן משפילות, מזלזלות, מאיימות על הביטחון האישי של המשתמש וכמובן אסור לזלזל בכבוד המת גם כן.

מעבר למדיניות אנחנו פועלים גם ברמה המעשית. הייתה פה התייחסות להשקעה בטכנולוגיה כדי להמשיך ולזהות גם ב-AI את התגובות האלה. יהודה גם התייחס לזה, יש תגובות שיותר קל לזהות, יש כאלה שיותר קשה לזהות ותלויות קונטקסט ובעצם אנחנו כל הזמן, גם היום, משקיעים במערכות האכיפה הטכנולוגיות שלנו כדי כן לעשות הקשרים של קונטקסט ולגלות את הדברים האלה בזמן אמת.

ומעבר לזה אנחנו גם משקיעים כל הזמן בצוותי הבקרה האנושיים שלנו שהם עובדים מסביב לשעון, גם בסופי שבוע, גם שם ניתן המענה 24 שעות ביממה, בכל השפות הרלוונטיות, כדי להסיר את התכנים הפוגעניים.

אנחנו לא עוצרים שם, אנחנו עוסקים גם בפעילויות של חינוך ובהסברה, אנחנו משתפים פעולה גם עם גופים ממשלתיים שנמצאים פה, גם עם עמותות, להעלות את המודעות בקרב צעירים ומבוגרים לשיח שהוא אחראי והוא בטוח ברשת. אנחנו מחויבים להמשיך את שיתוף הפעולה הזה עם כל רשויות המדינה והחברה האזרחית ואנחנו רוצים להבטיח את השיח המחבר ברשת. אנחנו נשמח גם להעמיק את שיתוף הפעולה עם כל הגורמים הרלוונטיים בנושא.

כמו שציינתם, אנחנו בתקופה מאוד מאוד קשוחה בארץ ובעולם. ביחס לקונפליקט הזה אנחנו כן ראינו עלייה בשיח השנאה ברשת ואנחנו עובדים בצורה ייעודית עם צוות מכוון לזה בטיקטוק שמעלה את כל האמצעים, גם אם זה אמצעי אכיפה, גם בבדיקות של מדיניות וגם באמצעים טכנולוגיים אחרים שנותנים אפשרות למשתמשים שלנו לשלוט בתגובות שלהם יותר טוב. זה פיתוחים שעשינו רק בשנה האחרונה, לסמן תגובות על פי מילות תוכן, לאשר תגובות לפני שהן עולות לרשת ועוד כלים מאוד מתקדמים כדי לתת להם את הכוח גם לשלוט במה רואים על הפלטפורמה, על איזה תגובה תהיה שם וגם כדי לדווח כשצריך. תודה רבה.

תודה רבה, לירון. שתי שאלות. שאלה ראשונה, האם יש עובדים ערבים שמבינים גם את השפה וגם את המאפיינים התרבותיים? שאלה שנייה, כשיש הסתה אתם רק מוחקים או שמעבירים למשטרה?

לגבי השאלה הראשונה, אז ודאי. יש לנו בודקי תוכן גם בעברית וגם בערבית, אבל זה לא רק שיש בודקי תוכן, יש לנו צוותי בטיחות שמומחים בנושא של הארץ, יש שם גם ערבים ישראלים, גם יהודים ישראלים, והם מבינים את הקונטקסט ואנחנו עובדים כל הזמן בשיתוף פעולה. מקרה כזה הגיע לפתחי, אנחנו ישר מעירים לצוותים ויודעים גם להכווין את בודקי התוכן לגבי מקרים ספציפיים ממש ולהגיד: פה שימו לב, הקונטקסט הוא כזה וכזה. המידע הזה, אנחנו מוודאים שהוא רץ כל הזמן. אז כן, יש לנו את היכולות האלה.

כשמגלים שיש הסתה, אתם רק מוחקים, מונעים או גם מעבירים למשטרה?

תלוי בחומרת ההסתה. ככל שיש איזה שהוא סיכון ממשי לחיי אדם אנחנו יודעים לתקשר עם גופי האכיפה ולהודיע על זה במהירות. אז כן, זה הולך דו כיווני.

כולל פנייה למשטרה אם זה מסוכן מאוד?

כן.

תשובות חשובות. מישהו רוצה לשאול? לירון, ממש תודה רבה.

יש לנו את גוגל, ליאת גלזר.

ליאת גלזר, מנהלת קשרי ממשל ומדיניות ציבורית, חברת גוגל.

תודה ליו"ר הוועדה, אולי בקרוב נשדרג אותך ליו"ר הכנסת. תודה שהזמנתם אותנו. אני לא רוצה לחזור יתר על המידה על הדברים שאמרו חבריי מפלטפורמות אחרות, אני רק אשים רגע בקונטקסט. חברת גוגל, אני מניחה שכולכם מכירים, יש לנו הרבה מאוד פעילויות בתחום של הרשתות החברתיות, הרשת החברתית שלנו זו רשת יוטיוב, שזו פלטפורמת הווידאו הגדולה בעולם ויש לה מאפיינים לפעמים טיפה שונים משאר הפלטפורמות שדיברו כאן, תוכן יותר ארוך ועם מאפיינים טיפה שונים.

כמו שאמרו חבריי, גם בגוגל יש לנו סט של כללי קהילה שמתווים את המדיניות של החברה לגבי תוכן שהוא תוכן פוגעני או תוכן שהוא אסור בפלטפורמה. אני רוצה לדבר על הצד השני כי במובנים האלה, אנחנו החברות, הכללים הם די דומים. יש כמובן גם את הנושא החוקי של תוכן שהוא לא חוקי ואנחנו מצייתים לצווים של בית משפט ואנחנו פועלים בשיתוף פעולה עם יחידת הסייבר בפרקליטות המדינה שמגישה בקשות הסרה.

הנושאים האלה נבחנים על ידי צוותים, בהמשך לשאלות שעלו פה, עם מומחיות מקומית, גם מומחיות בחוק הישראלי ככל שמדובר בהסרה משפטית של הפרת חוק, וגם היכרות עם התרבות, עם האקוסיסטם הישראלי. זה בצד הזה.

אני אגיד משהו לגבי טרור. המדיניות לגבי טרור היא מדיניות חד משמעית ולא מתפשרת. לפעמים אפילו תכנים, אחרי ה-7 באוקטובר היו הרבה תכנים שצולמו במצלמות של החמאס או סרטונים שהוצאו על ידי החמאס, אם הם לא הופיעו בפלטפורמה בקונטקסט שבו ברור שמי שפרסם את התוכן לא תומך בטרור הם הוסרו, גם אם זה פורסם באתר של גוף ממשלתי שברור שהוא לא תומך בחמאס והוא שם את זה למטרות הסברה. המדיניות מאוד מאוד לא מתפשרת בדברים שקשורים לארגוני טרור מוכרזים.

הנקודה האחרונה שרציתי להגיד זה לגבי נושא הזמנים שעלה פה במצגת של תהילה. יכול להיות שאמפירית או במחקר יצא דבר כזה או אחר, אני יכולה להגיד מהניסיון האישי שלי שבנושאים של תכנים, ובטח אחרי ה-7 באוקטובר, הוקם אצלנו חמ"ל בחברה הגלובלית ובחברה הלאומית שלא הייתה משמעות למועד שבו נדרש היה לטפל בסוגיה, בין אם זה שבת או חג שלנו ובין אם זה הוויקאנד במדינות בחוץ לארץ, ברגע שיש צורך יש לחברה מענה 24/7, כמו שלירון גם אמרה.

תודה רבה, ליאת.

יש ביוטיוב באופן סיסטמתי המון תכנים מסיתים, גם לגזענות וגם לטרור, אנחנו מפנים את תשומת ליבכם באופן עקבי לתכנים האלה ולא נעשה דבר, ואני מדבר על רבנים שפועלים בשירות המדינה ושלא פועלים בשירות המדינה שמסיתים באופן עקבי גם במסגרת שיעורי תורה כביכול שהם נותנים באופן מאוד מאוד בוטה וברור לגזענות, וגם אירועים כמו למשל אזכרה שעושים לרב כהנא, כל מיני אירועי תמיכה ברב כהנא כשאנחנו יודעים שכהנא זה 'כך' ו'כך' זה ארגון טרור שהוצא מחוץ לחוק ויש פה עבירה חד משמעית וברורה על חוק המאבק בטרור ועדיין התכנים האלה מוזרמים באופן עקבי בפלטפורמה שלכם. הייתי רוצה שתתייחסי לזה, בבקשה.

אני לא יכולה להתייחס למשהו שאני לא מכירה, אבל אני מזמינה אותך להפנות אליי את הפרסומים האלה ואני אוכל להעביר אותם לבדיקה. בנוסף עצה, גם לך וגם למי ששומע, לפנות אלינו באמצעות מה שנקרא מדווחים מהימנים, trusted flaggers, למשל איגוד האינטרנט הישראלי.

אבל הנתונים שהראיתי קודם הם נתונים של איגוד האינטרנט, ליאת. אז את לא יכולה להגיד בצד אחד שנפנה אליכם דרך איגוד האינטרנט ואז להגיד שהנתונים שאיגוד האינטרנט אסף כ-trusted flaggers, אני לא מכירה אותם, הם לא נכונים. זה לא עובד ביחד. זה לא נתונים שלי, לכן אני אומרת, לא אכפת לי להגיד את זה.

אין בעיה, הכול טוב, אלוהים הוא בפרטים בסוף גם בהקשר הזה, גם בהקשר של איך איגוד האינטרנט בדיוק מדווח, אבל בכל מקרה אני מזמינה לפנות באמצעות מה שנקרא trusted flaggers, שזה גם יחידת הסייבר במקרים שמתאימים, גם 105, וגם איגוד האינטרנט שהוא פתוח לאזרחים לפנות אליו. ותעביר לי את הפרטים ואני אבדוק.

תודה רבה. עו"ד שירי רום בן צדק, סגנית מנהל מחלקת הסייבר, פרקליטות המדינה. בבקשה.

קודם כל תודה על ההזמנה ואני מבקשת להצטרף להשתתפות בצערו של חאלד ששמענו היום. הדברים שנכתבו בעקבות מותה של אשתו הם דברים מזעזעים, בין אם הם מהווים עבירה פלילית ובין אם לא.

אני כאן אגב בכובע של המחלקה כמטפלת באכיפה אלטרנטיבית, כמו שד"ר אלשולר אמרה קודם. אנחנו מטפלים גם בתיקי הסתה, אבל בעניין הזה אנחנו לא חולשים על כל התיקים בפרקליטות ולכן אין לי מה להוסיף ולכן אני כאן יותר בכובע של הסרת תכנים, מה שאנחנו קוראים אכיפה אלטרנטיבית. זה בעצם מנגנון שבאמצעותו אנחנו לא אלה שמנטרים את הרשת, אנחנו מקבלים את מרבית הבקשות שמוגשות מגופי ביטחון, שב"כ, צבא ומשטרה, כשאנחנו מהווים מעין שער, יש אצלנו צוות ייעודי במחלקה של פרקליטים, סטודנטים, שמסננים מהתכנים כשבפועל בערך 70% ממה שאנחנו מקבלים אנחנו מגישים הלאה לפלטפורמות המקוונות, לרשתות החברתיות, כשמתוך אותם 70% זה על פי שלושה קריטריונים.

מאז הבג"צ שהוגש גם כתבנו נוהל מסודר, שמספק שקיפות על העבודה שלנו, פורסם, השנה גם השקנו את הדש-בורד שמאפשר לכל מי שרוצה להיכנס דרך גוגל או דרך אתר הפרקליטות ולצפות בנתונים של הבקשות שהגשנו כל חודש, כמה מהם התקבלו בחלוקה גם לפי פלטפורמות, כך שמתוך 70% מהבקשות שלנו בערך 85% מתקבלות בסופו של דבר, שזה ממוצע. כמובן שיש חברות שמשתפות פעולה יותר, במקרה הן נמצאות כאן, וכאלה שפחות, שבמקרה לא נמצאות כאן, במקרה או שלא במקרה.

למעשה התנאים המצטברים הם שלושה כשאחד מהם זה עבירה פלילית, חייבת להיות עבירה פלילית בפרסום כדי שאנחנו נטפל. זו הבחינה המשפטית שלנו. תנאי שני מצטבר הוא שתהיה הפרה של תנאי השימוש של אותה פלטפורמה ותנאי שלישי הוא אינטרס ציבורי שזה בגדול הוויראליות של התפוצה, מי המפרסם, מועד הפרסום, קהל היעד ועוד כל מיני מבחנים כאלה.

אני חייבת להגיד שהאכיפה האלטרנטיבית נועדה לעבוד כאשר אין אפשרות לקיים אכיפה פלילית, זאת אומרת במקרה שכן יש חשוד בישראל שניתן לאכוף נגדו את הדין בצורה הקלאסית מה שנקרא, באמצעות תלונה למשטרה, אנחנו בדרך כלל לא נפעל כי הפעולה שלנו תפגע בחקירה, כי אנחנו מסירים את התוכן ואז לא ניתן לתעד את מעשה העבירה. לכן לפעמים אנחנו מקבלים פניות מהמשטרה להסיר תוכן כזה או אחר של עבירה שנחקרה, אנחנו קודם כל מוודאים שהוגשה תלונה, שהעבירה נחקרה, שהתוכן תועד בשלמותו לפני שאנחנו פונים ומבקשים להסיר.

מקרה כמו המקרה שהועבר כאן, סביר להניח שלא היה מטופל אצלנו אם לא הוגשה תלונה בנושא הזה. אני יכולה לומר שגם לא מעט תכנים של שמחה לאיד גם על מותם של חיילים מאז ה-7 באוקטובר לא טיפלנו, לא הגשנו בקשות בעניין כי סברנו שזה לא מהווה עבירה פלילית. היו הרבה פרסומים כמו 'איזה בוקר נפלא, נהרגו היום כך וכך חיילים בעזה', זה דווקא תוכן שאנחנו לא מבקשים להסיר. שוב, לא כי אנחנו חושבים שזה תוכן שהוא טוב, זה כמובן מזעזע, אבל ספק אם הוא מהווה עבירה של הסתה או עבירה פלילית כלשהי ולכן אנחנו לא מטפלים.

זהו, פחות או יותר. כל תוכן שאנחנו מקבלים, בלי קשר לזהות המפרסם או החשוד, מטופל על פי אותם קריטריונים שמניתי. יכולים גם לפנות אלינו גורמים פרטיים, אנחנו מקבלים לפעמים פניות מאזרחים אז אנחנו מפנים אותם, במקרה שזה חשוד שעל פניו נראה ישראלי, להגיש תלונה במשטרה ואז המשטרה זו שתפנה אלינו לבקש את הסרת התוכן.

יש לכם באיזה שהוא מקום שהוא שקוף לראות את סוגי העבירות שאתם מסירים? כי יש סוגים שונים של עבירות הסתה.

מרבית העבירות שאנחנו מסירים הן עבירות של הסתה לטרור או הזדהות עם ארגוני טרור, דפים של ארגוני טרור. מכיוון שהגופים הביטחוניים הם אלה שמעבירים לנו את התכנים והם אלה שמנטרים את הרשת אז מטבע הדברים האלו הם רוב התכנים שאנחנו מטפלים.

והאזרח הפשוט יכול לפנות אליכם שתסירו?

כן, יש לנו אתר ויש לנו כתובת מייל שאפשר לפנות.

אז זה לא מוגבל רק לעבירות הסתה לטרור והזדהות עם טרור?

לא, אבל כן צריכה להיות עבירה פלילית. קודם כל צווים, כל ההפרות של צווים, צווי איסור פרסום, צווים לפי חוק הנוער, אם מישהו מפרסם תמונות של קטין, פרטים של מתלוננת בעבירת מין, אם הם מפורסמים, פונים אלינו ואנחנו - - -

אבל יש גם הסתה לגזענות והסתה לאלימות.

כן, ככל שיש עבירה פלילית אין מניעה שנפעל כל עוד כמובן תוגש תלונה והנושא יתברר. תמיד עדיף המסלול הקלאסי, אם הוא אפשרי. כאשר החשוד הוא לא בארץ, כאשר לא יודעים מה זהותו ואין דרך לברר אותה, אז באותם מקרים האכיפה האלטרנטיבית היא הכי נדרשת ואפקטיבית.

תודה, שירי. נשמע עכשיו את אלין נסרה ודוד מרגליות, סטודנטים מאוניברסיטת תל אביב, בבקשה, תחליטו מי ידבר קודם.

שלום ותודה רבה על ההזמנה לוועדה. זה יום מלא בדיונים על האקדמיה הישראלית וגם ועל יחס לסטודנטים ואנחנו שמחים גם לבוא ולדבר פה על כל העניין של הסתה ברשתות כי העניין היה מאוד מאוד נוכח בקמפוסים. אפשר להגיד שעכשיו אולי הוא טיפה נרגע, אבל זה לא אומר שהוא לא קיים, הוא בטח קיים, במיוחד כלפי סטודנטים פלסטינים.

אם אנחנו מדברים על כל עניין האכיפה ואיך להתמודד עם זה, אני יכול להגיד מהניסיון שלי באוניברסיטת תל אביב שהאכיפה הייתה מאוד לא משהו. אנחנו שלחנו בעצמנו סביב תחילת המלחמה אין ספור התבטאויות של הסתה, קריאות לאלימות, בריונות ודברים כאלה, בעיקר כנגד סטודנטים ערבים, להנהלת האוניברסיטה. היו גם קריאות אחרות שכאילו נראות לנו קצת בישראל כמו לשטח את עזה, כל הערבים לעזה, דברים כאלה שזה מין סתם אמירות בעייתיות שקוראות גם לפשעים שאנחנו מסרבים להם, אבל מעבר לכך הנהלת האוניברסיטה לא עשתה עם זה כלום.

היא בדקה אמנם, הם הסתכלו והם הכריזו שכל הפוסטים הללו, אין להם מה לעשות איתם, אין להם איך להתמודד איתם מכיוון שלא מדובר באנשים מהקמפוס. היה פה בחור שדיבר קודם גם על גורמים חיצוניים שניסו להשפיע על השיח הזה, אז מצד אחד, כן, בטוח יש גורמים מחו"ל שהיה להם אינטרס השפעה להתסיס את הקמפוסים, לדעתי, מצד שני יש גם גורמים של תנועות ימין ישראליות בבירור שאנחנו מכירים אותן שבכוונה נכנסו לתוך קבוצות של סטודנטים והתסיסו את השטח בין סטודנטים יהודים לסטודנטים ערבים.

אני רק אגיד שהנושא הזה חשוב וכשאנחנו מדברים על הסתה, במיוחד כלפי סטודנטים ערבים, צריך גם מעורבות של הנהלת האוניברסיטאות להבין מה בכלל היחס שלהם מול אותן קבוצות סטודנטים, מה הם יכולים לעשות שם וכן להגיד שהדבר הזה השפיע מאוד על הסטודנטים, השפיע מאוד על תחושת השייכות שלהם לקמפוס, על היכולת שלהם להתמודד בכללי ביום יום בלימודים ואני חושב שחשוב מאוד שנעשה עם זה משהו כמו שצריך.

תודה רבה, דוד. אלין, בבקשה.

שלום ותודה רבה שנתתם לי את הזכות לדבר. אני אחת הסטודנטיות שקיבלתי רדיפות משנה א' שלי באוניברסיטה בגלל הזהות שלי, הזהות הלאומית שלי, ואחרי המלחמה ראינו שזה לא רק אנשים שהם פוליטיים או שמים פוסטים שמזדהים עם הזהות שלהם, הזהות הערבית הפלסטינית, אלא זה בא גם מצד הסטודנטים שאנחנו יושבים איתם בספסל הלימודים האקדמיים.

הם גם עשו לנו רדיפה גדולה, הם לקחו את הפוסטים שלנו האישיים, שמו את זה במצגות. ראינו את זה בטכניון, רדיפות של סטודנטים באוניברסיטת תל אביב וגם בקבוצות פייסבוק שהורידו פוסטים של ערבים עם הדעות הפוליטיות שלהם, עם חופש הביטוי שלהם בפייסבוק שלהם ועשו הסתה ורדיפה אחריהם. אנחנו יכולים לראות עכשיו באוניברסיטאות את הפחד בעיניים של הסטודנטים הערבים וגם בעיניים של הסטודנטים היהודים שמתנגדים למלחמה וזה פגע בהתייחסות האישית בין הסטודנטים אחד לשני.

אנחנו באקדמיה פה, אנחנו במקום רב תחומי ואנחנו באים לאקדמיה גם לפתח יחסים אישיים בין אחד לשני, אבל אחרי ההסתות שאנחנו עוברים במדיה החברתית יש פחד גדול אצלנו לפתח את זה ולדבר גם פוליטיקה או לדבר על החיים או לדבר על המלחמה. זה הופך את האוניברסיטה למקום שאנחנו לא יכולים להתפתח וללמוד מזה. תודה רבה, חברים.

תודה רבה, אלין, הרבה בריאות.

אדוני, סליחה שאני קוטעת את אדוני, אני מבקשת את רשות הדיבור שוב כי בדקתי כמה דברים מאחורי הקלעים.

בבקשה.

אנחנו כרגע מדברים על נושא הפילוח, שם למעשה שמנו את הדגש. אני רוצה להסביר ברשות אדוני את ההבדלים בין המסמך שניתן בעבר למרכז המחקר והמידע של הכנסת, שם כן היה פילוח לגבי נתון של הלאום.

עד ה-7 באוקטובר לא נוהלה טבלת מעקב בנושא תיקי חקירה, בנושא פניות, קשורים להסתות, כך שלמעשה המשטרה הפיקה את הנתונים דרך אג"ת, דרך מדור הסטטיסטיקה של משטרת ישראל. מאז לאור העלייה הניכרת, אדוני ראה, מ-160 פניות למעל 1,540 פניות, ולאור הגידול העצום המעקב של תיקי החקירה בעבירות הסתה מנוהל על ידי פיקוח לא ממוחשב, פיקוח של חטיבת החקירות, פיקוח שמאפשר להפיק לאדוני וליתר הוועדות מידע מהימן על כמות הפניות, על הסטטוס, אבל בטבלה הספציפית הזו, אדוני, להבדיל מהנתונים שהופקו בעבר על ידי אג"ת, אין אופציה להפיק פילוח של לאום כמו שאין אופציה להפיק פילוח של מגזר.

דנית, זה לא משכנע אף אחד.

אפשר לפנות לאג"ת?

לא ניתן לפנות, זו בדיוק הנקודה. היום פנייה לאג"ת תעלה רק נתונים - - -

דנית, זה לא משכנע אף אחד.

אבל אני כן מנסה לתת לאדוני מענה.

מה זה, 1,500 תוך שנה ותוך 14 חודשים, מה, אי אפשר לדעת? 14 חודשים. אני באמת לא מבין.

הפילוח הוא בלתי אפשרי.

למה? הכי קל.

הפילוח הוא בלתי אפשרי, כי אם היום אג"ת יבצעו את הבדיקה, אם מדור הסטטיסטיקה יבצעו את הבדיקה, הנתונים לא יהיו מהימנים בגלל התהליך. חלק מהתיקים היום נפתחים, אדוני, ככללי ואז זה לא יעלה ולא ישתקף מהנתונים.

תודה רבה, דנית. איתמר, יש לך שתי דקות בבקשה.

תודה רבה. אחר צוהריים טובים, אני איתמר ויסמונטסקי, אני בן 15 מקרית אונו ואני נציג מועצת התלמידים והנוער הארצית.

אני רוצה טיפה להעלות לדיון את כל הנושא הזה של הרשתות החברתיות בקרב הנוער. אני חושב שהן כלי מאוד חיובי ומאוד משמעותי עבור בני נוער בישראל, במיוחד בימים הקשים האלה. במהלך המלחמה הם הפכו למרחב מרכזי להעברת מידע, לתמיכה רגשית ולהבעה של סולידריות חברתית. אנחנו ניצלנו את הפלטפורמות האלה לארגון יוזמות, התנדבויות, שיתוף מסרים של תקווה בייחוד לחברה ברגעי משבר.

אני חושב שכולנו יכולים להסכים שהרשתות החברתיות הן חלק מרכזי בחיים שלנו, אבל באותה נשימה הן הפכו לזירה מסוכנת. סקר של איגוד האינטרנט הישראלי שנערך לאחרונה מראה כי רק 21% מבני הנוער בכלל מעידים שהם יודעים לדווח על תוכן פוגעני ורובם לא עושים את זה בגלל חוסר אמון בפלטפורמות. זו בעיה שמתחילה ברשת, אבל משפיעה ישירות על החיים האמיתיים שלנו, על המצב הרגשי, על הביטחון האישי ועל תחושת השייכות שלנו כחברה.

אלגוריתמים ברשתות, הם בעצם מתגמלים תוכן קיצוני, זה מעמיק את הקיטוב שלנו בחברה. הבעיה הזאת מחמירה בקרב מגזרים מוחלשים, כמו שאתם ציינתם למשל את החברה הערבית כדוגמה, שיש בה פחות מודעות למנגנוני דיווח והרבה יותר חשיפה לשיח מסית.

אני מאמין שיש לנו את הכוח לשנות. אנחנו במועצת התלמידים הנוער הארצית מובילים היום יוזמות להגברת מודעות, שיתוף פעולה עם בתי ספר ולעידוד חברות טכנולוגיות לקחת אחריות. אנחנו פועלים היום גם מול משרד המשפטים, גם מול הפרקליטות וגם פורום הנוער של 105 שאנחנו שולחים אליו נציגים בקביעות ודואגים להשמיע את הקול של הנוער בנושא.

אני קורא לכם, למקבלי ההחלטות, לפתח פתרונות נוספים להגנה על בני הנוער ולחייב את הפלטפורמות להיות שקופות יותר ולתת לנו כלים טובים יותר להתמודד עם ההסתה ברשתות. אני מאמין שביחד אנחנו יכולים להפוך את המרחב הדיגיטלי למקום שהוא הרבה יותר בטוח והרבה יותר מכבד. תודה רבה.

תודה רבה לך, איתמר. אתה יודע, כשבן אדם בין 10 ל-20 הוא רוצה לשנות את העולם, בין 20 ל-30 את המדינה, בין 30 ל-40 את העיר, בין 40 ל-50 את המשפחה, בין 50 ל-60 קצת בעצמו וגם לא מצליח. תודה רבה, תישאר כך, אל תוותר, תישאר צעיר בנשמה.

תודה רבה.

עו"ד עדן פרבר, מכון תכלית.

תודה רבה, היושב ראש. תודה על הדיון החשוב הזה והזכות להשתתף בו. בהתאם למיקוד הדיון ביחס לביטויים פוגעניים ברשת אנחנו נרצה להתמקד בהתייחסותנו הקצרה בשחקנית המרכזית במנגנון האכיפה נגד התופעה הזאת שהיא מחלקת הסייבר בפרקליטות המדינה. מחלקת הסייבר עושה עבודה חשובה ומבורכת אך לראייתנו יש היבטים שניתן לשפר ביחס לאופן הפעלת סמכותה.

כך למשל חסרה הקפדה על זכות הטיעון וחובת הנמקה הנדרשים בהפעלת סמכות על ידי רשות מנהלית ויש חשש, שהתבטא היום בדיון, על פגיעה בחופש הביטוי בכלל ובפרט כנגד אוכלוסיות מיעוטים אשר עלולים לסבול גם מאכיפת יתר וגם מתופעה של הדרה טכנולוגית הנגרמת כתוצאה מהטיה מובנית ברשתות החברתיות. הרחבנו לגבי הבעיות האלה בחוות דעת שהגשנו בכתב ואני אשמח להציג לוועדה את הצעותינו האופרטיביות.

אנחנו ממליצים לוועדה לקרוא להסדרה של פעילות מחלקת הסייבר בחקיקה ראשית, דבר שנעשה בבריטניה ואוסטרליה ובמדינות אחרות וזאת במטרה להגביר את הלגיטימציה שלה ולהיטיב את הכלים שיש בידה. במידה שהמלצתנו תתקבל אנחנו נציע שהקריאה תכלול הסדר שמעניק חשיבות לשקיפות ביחס לפעילות המחלקה, למשל דרך הוספת החלת חובת פרסום נתונים מפולחים, נושא שעלה הרבה בדיון הזה, וכפי שהמחלקה מסרה לממ"מ עכשיו, מה שמאוד עזר בגיבוש תמונת המצב.

אנחנו גם נמליץ על הגדרת חובת הנמקה לגבי פעולות מסוימות וזכות יידוע לפרט כאשר מבוצעת נגדו פעולת אכיפה. לבסוף אנחנו ממליצים על מיסוד פיקוח פרלמנטרי באחת מוועדות הכנסת לגבי פעילות האכיפה במרחב מקוון באופן שיחזק את האחריותיות של גורמי השלטון, יגביר את הוודאות של הציבור לגבי הפעלת סמכות שלטונית במרחב מקוון ובמובן רחב יותר יגביר את ההגנה על זכויות הפרט. אני אשמח להרחיב, אם יש שאלות, תודה רבה.

עדן, תודה רבה לך. יש לנו דקה וחצי, עו"ד אורי נרוב ביקש וגם אני רוצה לסכם, אז יש לך מקסימום דקה, בבקשה, המרכז הרפורמי לדת ומדינה.

המרכז הרפורמי לדת ומדינה מוביל מזה שנים ארוכות מאבק לביעור נגע הגזענות בחברה הישראלית, במסגרת הזאת אנחנו מטפלים בתופעה של הסתה לגזענות ואנחנו מנטרים באופן שוטף התבטאויות מסיתות לגזענות ולאלימות ברשתות החברתיות תוך מיקוד בהסתה מפי רבנים וגורמים אחרים כמו הארגון הגזעני והמסית להב"ה, שעושים שימוש בדת היהודית כקרדום להפצת שנאה וגזענות כלפי מי שאינם יהודים. אנחנו מגישים באופן שוטף תלונות משמעתיות כלפי מי שזה רלוונטי ביחס אליו ותלונות פליליות במשטרה על עבירות ההסתה.

אני יכול להגיד מנקודת מבט מאוד מאוד רחבה של שנים של ניטור תכנים אינטרנטיים שאנחנו עדים למגמה מאוד מאוד מדאיגה ובעייתית של עלייה בהתבטאויות מסיתות ברשתות החברתיות ובצד זאת יש מדיניות של המשטרה ושל הפרקליטות בכל הנוגע לעבירות ההסתה שהאכיפה נותרה עדיין, על רקע רצון, שוב, לשמור על חופש הביטוי ולהימנע מאפקט מצנן, מדיניות מאוד מאוד זהירה, מאוד מאוד מצמצמת, אבל היא מיושמת בעיקר ביחס למסיתים יהודים וכשמדובר באנשי דת יהודים, דבר שבוודאי לא עולה בקנה אחד עם רצון המחוקק שסימן את כל התופעה הזאת של הסתה לגזענות כתופעה פסולה שצריך לעקור אותה מהשורש.

ואני רוצה להגיד ביחס למסיתים ערבים, אנחנו פרסמנו דוח באוגוסט 2022 שמתייחס לאכיפת עבירות ההסתה על ידי הפרקליטות ואנחנו ראינו שם נתונים מאוד מאוד ברורים שמעידים על אכיפה מפלה על רקע לאום. היד מאוד מאוד קלה על ההדק כשמדובר במסיתים ערבים ובניגוד למסיתים יהודיים, שמאופיין על פי רוב בסחבת, בגרירת רגליים, הטיפול במסיתים ערבים מתבצע לרוב תוך פרקי זמן מאוד מאוד קצרים.

אני מדבר על זה שנגד 51% מהמסיתים הערבים שאנחנו העלינו במחקר הזה הוגשו כתבי אישום תוך פרק זמן של עד חודש, 22% בין חודש לחודשיים. לעומת זאת כשמדובר במסיתים יהודים אנחנו ראינו שב-42% מהמקרים פרק הזמן היה בין שנה לשנתיים, ב-21% מהמקרים בין שנתיים לשש שנים. ואני רוצה להזכיר כאן את בנצי גופשטיין, החבר של השר שלנו לביטחון לאומי, שכדי להגיש את כתב האישום נגדו על הסתה לגזענות אנחנו נאלצנו להגיש בקשות חוזרות ונשנות ולפנות לבית המשפט העליון שלוש פעמים, זה לקח רק עשר שנים עד שהגישו נגדו בסופו של דבר כתב אישום על הסתה לגזענות, ואני לא מדבר על עוד דמויות מובילות כמו הרב שמואל אליהו, רב העיר צפת, שעד היום אנחנו מנסים שיוגש נגדו כתב אישום בגין הסתה לגזענות בלתי פוסקת מצדו.

תודה רבה, עברנו את השעה 16:00.

אני אוכל לתת רק את ההמלצות שלנו? אני חושב שהן חשובות. אחת, המלצות לשינוי חקיקה, צריך שירחיבו את עבירות ההסתה הקיימות ויעמידו כלים נוספים על הכלי הפלילי. הכלי הפלילי פשוט לא מספיק, צריך כלי אזרחי, צריך כלי משמעתי, צריך לשנות את מדיניות האכיפה גם ביחס למתן פרשנות מרחיבה יותר לעבירות האלה וגם לאכיפה שוויונית.

צריך לפרסם גם הנחיות, כפי שנאמר פה על ידי תהילה אלטשולר, הנחיות ביחס לטיפול של גורמי אכיפת החוק בתלונה כדי להביא להליך יעיל וברור יותר של בירור התלונות וגם למנות בעל תפקיד ייעודי במשטרה לעניין עבירות ההסתה.

הכי חשוב בעיניי זה תכני חובה, לתת תכני חובה במערכת החינוך שלנו נגד גזענות ונגד שיח מסית וקידום חיים משותפים בישראל.

תודה רבה לך, תודה רבה לכם.

הסיכום. שמענו על תופעת ההסתה ברשת, קיבלנו נתונים ומספרים, לדוגמה 1,500 חקירות שנפתחו בשנה האחרונה כאשר 92% מהם נגד ערבים, 70% מהמעצרים בוצעו בשל פרסומים ברשתות החברתיות, 20% כתבי אישום הוגשו.

הבנו שבנושא הזה רב הנסתר על הגלוי, איך ניתן לטפל בתופעה כשיש בעיה וברשויות המדינה העיקר הוא באין, אין אחראי מתכלל לכל התופעה, אין מתודולוגיה לעניין, אין חקיקה, אין דאטה, אין קריטריונים, אין יכולת פילוח ללאום, לשפה. נדהמתי לשמוע מנציגי המשטרה והפרקליטות על חוסר באמצעים ויכולת לפילוחים שונים. אני קורא למשרד לביטחון לאומי, לגורמים הרלוונטיים, לשנות את השיטה, לאפשר את פילוח הנתונים תוך התייחסות ללאום, תוך שקיפות, לצורך טיפול רציני ואמיתי בתופעה.

אנחנו נלמד את החומר, נהיה בקשר עם הגורמים הרלוונטיים על מנת לקדם חקיקה בנושא לפתרון הבעיה שתיתן מענה ללאקונה שיש.

תודה רבה לכולכם. הישיבה נעולה.


הישיבה ננעלה בשעה 16:05.