ôøåèå÷åì ùì éùéáú åòãä

ôøåèå÷åì ùì éùéáú åòãä

àåîðéè÷

2018-04-11OMNITECH



הכנסת העשרים

מושב רביעי

פרוטוקול מס' 167

מישיבת ועדת המדע והטכנולוגיה

יום רביעי, כ' באדר התשע"ח (07 במרץ 2018), שעה 10:35

פייסבוק מציעה למשתמשי הרשת החברתית להוסיף תמונתו של מחבל לתמונת הפרופיל שלהם

הצעה לדיון מהיר של ח"כ רויטל סוויד (מס' 9429)

חברי הוועדה: אורי מקלב – היו"ר

ענת ברקו

רויטל סוויד

דנה רוטשילד - עו"ד, ייעוץ וחקיקה, משרד המשפטים

איתי טוהר - יחידת הסייבר, פרקליטות המדינה

סהר מיסק שמע - מחלקת חקירות אח"מ, משטרת ישראל, המשרד לבטחון פנים

אליה רובינשטיין - ראש ענף מדיה דיגיטלית, משרד החוץ

דורון סלע - אחראית קשרי ממשל, המכון הישראלי לדמוקרטיה

ד"ר תהילה שוורץ אלטשולר - עמיתה בכירה, המכון הישראלי לדמוקרטיה

דורי בן ישראל - שדלן/ית, מייצג את עמותת טרון למען משתמשים ברשת

ענת לוי

עופרה ארגס - חבר תרגומים

פייסבוק מציעה למשתמשי הרשת החברתית להוסיף תמונתו של מחבל לתמונת הפרופיל שלהם

בוקר טוב לכולם. זמננו קצר ואני רוצה להתכנס ישירות לעניין. אני מתכבד לפתוח ישיבה של ועדת המדע והטכנולוגיה, היום יום רביעי כ' באדר התשע"ח, ה-7.3.2018. על סדר יומנו הצעה לדיון מהיר של חברת הכנסת רויטל סוויד שהכותרת שלה "פייסבוק מציעה למשתמשי הרשת החברתית להוסיף תמונתו של מחבל לתמונת הפרופיל שלהם". לפני שאני פותח, אני מבקש להתנצל מהמוזמנים שלנו, אלה שאישרו את ההזמנה, אני מבין שגם חברת הכנסת רויטל סוויד תעשה את זה גם מהמקום שלה, אבל אני כיו"ר הוועדה דחיתי את הישיבה כדי לאפשר למציעה חברת הכנסת רויטל סוויד שלא התאפשר לה להגיע בזמן, דחינו את זה ל-10:35 ואני מתנצל בפניכם.

נבקש ממך חברת הכנסת רויטל סוויד, אני בהצעות לדיון מהיר לא מוסיף משלי. אני חושב שלא ראוי שאני אקח מדברים של המציע עצמו. אז אני כמעט תמיד נותן למציע עצמו להציג את הדברים ואחר כך נפתח את הדיון. רק אומר בעניין הזה, מבחינת חברת פייסבוק לא הגיעה נציגות. הם ביקשו להודיע שכרגע לא מתאפשר להם להגיע אבל יש מכתב מחברת פייסבוק.

זאת אומרת שהם בכלל לא נוכחים פה?

לא. הם לא נוכחים היום אבל הם הודיעו את זה מראש. זה גם שלב. אנחנו זוכרים שעד לפני כמה זמן בכלל לא היה עם מי לדבר. אז אנחנו היום בכוחות משותפים של חברי הכנסת היום נמצאים, אבל יש כאן מכתב רשמי שלהם.

אסור לעבור על זה בשתיקה. אנחנו לא יכולים לנהל דו שיח עם מכתב.

אחרי זה נקריא אותו, אחרי שהנושא יעלה על ידי חברת הכנסת רויטל סוויד בבקשה.

בוקר טוב לכולם. אני קודם כל מודה לך אדוני היושב ראש על קיום הוועדה ומתנצלת על העיכוב שנאלצנו לעשות, זה היה מסיבות אישיות. עכשיו לגופו של עניין. אנחנו כולנו, כל מי שראה את התמונה של אותו מחבל נתעב מתנוססת כמסגרת שפייסבוק מציעה למשתמשים, זאת אומרת זה לא שאדם החליט לבוא ולהתפאר מעצמו באותה דמות של מחבל שרצח את הרב רזיאל שבח ז"ל, אלא שפייסבוק הציעה את זה כאחד מהגימיקים שהיא מציעה למסגרות לפרופיל ברשת.

הדבר הזה קודם כל מקומם מאוד, דבר שני הוא כמובן פוגע ודבר שלישי הוא בהחלט עידוד והסתה לטרור, אין מה לעשות. כשאתה רואה שבא גוף ולוקח תמונה של מחבל שרצח בדם קר את הרב שבח או מי שזה לא יהיה, ז"ל, ואתה רואה שהיא מציעה את זה היא אומרת "בואו, תשתמשו בזה, תציגו את זה, תשתמשו בפרופיל הזה", זה ממש מבחינתי עידוד והסתה לטרור.

אני פניתי מיד לפייסבוק וגם יזמנו את הדיון. ייאמר לזכותם שהם פעלו מאוד מהר פה, בניגוד למקרים אחרים. הם לא רק פעלו מהר הם גם התנצלו, אמרו שזאת הייתה תקלה, טכנולוגית כלשהיא ושזה לא יקרה ותיכף גם נראה מה הם עושים.

חשבו שהוא דוגמן.

בדיוק. אנחנו מקיימים את הדיון הזה פה היום מכמה וכמה טעמים. קודם כל כדי להראות שכנסת ישראל לא יכולה לעבור בשקט על כך שלוקחים דמות של רוצח והיא מוצגת כאופציה לפאר פרופילים ברשת חברתית. זה לא יכול להיות. גם אם זו תקלה.

דבר שני, מן הראוי היה שפייסבוק היו מגיעים לכאן, שמסבירים לנו בדיוק את מה שהם כתבו פה שזו תקלה מבחינתם, אבל יותר מזה, מי היה האדם שבכלל הציע את הפרופיל הזה, את הדמות הזאת כקישוט? למה לא מציגים את הדמות שלי, את הדמות של חברת הכנסת ברקו, את הדמות של ד"ר פרידמן או את הדמות של יו"ר הוועדה? למה אתה לא מפאר פרופילים בפייסבוק. למה אף אחד מאתנו - - -

קודם כל שיהיה לי פייסבוק. אחרי זה שיפארו.

בסדר, אז אולי את שלך לא, אבל לנו יש ואנחנו שואלות את השאלה הזאת. למה נבחרה הדמות הזאת, גם אם זו תקלה, מי היה שם האיש הזה, הדמות הזאת, הגורם הזה, האלגוריתם הזה שבחר את התמונה של אותו רוצח מחבל נתעב לשמש כתמונה, גם אם זו תקלה. גם אם פייסבוק מצטערים על זה. מה היה שם שאיפשר בכלל את הבחירה הזאת ולמה לא בחרו באף אחד מאתנו? למה לא בחרו באף אחד מחברי הכנסת האחרים? למה בחרו את הדמות הזאת? אלה דברים שאנחנו רוצים את התשובות עליהם. למה אנחנו רוצים את התשובות עליהם? אנחנו רוצים את התשובות עליהם כי אנחנו לא מוכנים שדבר כזה יישנה בעתיד.

כשאני רואה את התשובה של פייסבוק אז הם כמובן מתנצלים ואומרים שכל תכני המסגרות עוברים תהליך אישור, מסגרות כפופות למדיניות אפקטים במצלמה.

אז זה עבר אישור?

כן.

זאת אומרת שמישהו, אדם אישר את התמונה.

"ועל פי מדיניות זו על המשתמשים לוודא שהתוכן שלהם עומד בקנה אחד עם כללי הקהילה של פייסבוק". כללי הקהילה מאוד ברורים, הם נגד הסתה לטרור ונגד טרור. הכל טוב ויפה. אנחנו צריכים לדעת איך דבר כזה לא יקרה שוב. זה לא רק התמונה, זה לא רק הפרופיל, זה גם מעבר לזה. כי כללי הקהילה שהם נגד כל פגיעה, ובטח ובטח הסתה לטרור וטרור, בסוף הדברים כן חומקים שם מתחת לרדאר. אז איך אנחנו יודעים שעל אף כללי הקהילה לא רק שלא יהיו תמונות פרופיל יותר אלא גם לא יהיו תכני טרור יותר.

בסוף התשובה של פייסבוק הם כותבים "אנו נוקטים כעת בצעדים לשפר את תהליך האסקלציה ובוחנים את תהליכי הבקרה לתוכן טרור וכל תוכן אחר שמפר את כללי הקהילה שלנו. בין הצעדים הננקטים שיפור זמני התגובה וכן ניתוב הבקרה של מסגרות מסוימות לצוותים שמתמחים בטרור לפני עלייתן לאוויר". זאת אומרת אנחנו רואים פה איזו שהיא כוונה או יורת נכון לאור באמת הפניה שלנו, שלי בוודאי, גם של חברי יו"ר הוועדה לפייסבוק עם התרעה על הדבר הזה, אז הם כן ינתבו עכשיו את המסגרות ויבחנו אותן. אבל אנחנו כן רוצים לדעת, ונמצאת פה משטרת ישראל, 1. מה אתם עושים בעניין הזה. 2. משרד המשפטים, אם לכם יש גם איזו שהיא נגיעה עם העניין, אם אתם בוחנים את הדברים האלה, אם אתם אחר כך פונים אליהם, מה אתם עושים בעניין הזה. כמובן המכון לדמוקרטיה, נשמח לשמוע גם את עמדתכם בנושא. ובסופו של דבר נסכם.

לפני זה נבקש מחברת הכנסת ענת ברקו גם להתייחס ואחר כך נבקש מהמשרדים. רק להתכנס לזמנים מכיוון שאין לנו עוד הרבה זמן.

תודה אדוני יושב הראש, תודה לחברתי חברת הכנסת סוויד על הדיון הזה, אני חושבת שהוא חשוב בצורה בלתי רגילה מהסיבה הפשוטה, היום טרור מאוד מאוד אפקטיבי בגלל פייסבוק. הרבה יותר אפקטיבי ממה שפעם. זה אומר שאפשר לנטר – ובטוח שהמשטרה יכולה לדבר על זה – הסתה לטרור, או איומים בטרור דרך מילות קוד ואפשר לעשות את זה. משתמשים בפלטפורמות הללו כדי לגייס טרוריסטים ותמונה מהסוג הזה היא חכה לגיוס טרוריסטים, לא פחות ולא יותר. במיוחד שהתמונה מוצגת כאיזה דוגמן על, סלב. הטרוריסט הופך להיות סלב, הוא מודל לחיקוי, ויש כאלה שבאמת נוהים אחר מודלים מהסוג הזה וזה מאוד משפיע עליהם, בעיקר צעירים, בעיקר קטינים, בעיקר צעירים בגיל העשרה.

אני נתקלתי בהרבה מאוד כאלה במסגרת המחקרים שלי של צעירים שמה שהם אומרים זה שהם לא זזים מהאינטרנט, זה מה שהם מחפשים. לא יכולה להיות תקלה מהסוג הזה לפייסבוק ואי אפשר לתרץ אותה בשום תקלה טכנולוגית כי אם זו תקלה טכנולוגית ולאחר מכן הם מודים כאן שזה עבר אישור, יש כאן בעיה, מישהו אישר את זה, אי אפשר להתעלם מזה.

לכן אני חושבת שהגיע הזמן להוריד את הכפפות מול התאגידים הללו, כי חוץ מאשר לעשות כסף הם יכולים גם לפגוע בביטחון הציבור וזה מה שעושים בהרבה מאוד מקרים. אנחנו צריכים לעמוד על זה שהם לא ישלחו מכתב, יש להם כל כך הרבה עובדים שאפשר היה לשלוח נציגות כדי לתת התייחסות הולמת לעניין הזה בדרג מספיק גבוה כששמים תמונה של טרוריסט כתמונת פרופיל. אני חושבת שאסור לקבל את זהו בכל מקרה, אני מציעה לעשות גם דיון המשך ולקרוא להם לתת כאן הסברים איך הם מונעים את המקרה הבא, כי זו לא פעם ראשונה ויש הרבה מאוד דברים שהם עשו שהם בהחלט עודדו טרור והסתה לטרור. אז אם הם מתיימרים לא לעשות את זה, בבקשה, שיבואו ויסבירו איך הם עושים שדברים כאלה לא יקרו. תודה.

תודה על הדברים. שוב תודה לחברת הכנסת רויטל סוויד על עצם ההעלאה. גם אם זו הייתה טעות מקרית ונדירה שלא עשויה לחזור על עצמה, יש גם חשיבות להעלות את הנושא, ולו רק כדי לקבל את התשובה. מה היה קורה אם לא היית מעלה את הנושא? גם לא הייתה תשובה בכתב של פייסבוק, הייתה אולי עובדה אחת שהורידו.

אולי לא היו מונעים גם את המקרה הבא.

והורידו. אז קודם כל צריך הפקת לקחים. הפקת הלקחים הוא דבר חשוב לראות, והתשובה הרשמית של פייסבוק שזו התנצלות וזו גם התחייבות שאם קורה עוד משהו, זה כבר לא המקרה הראשון שעבר כך. אז אנחנו לא מסתפקים, אני לא יודע אם חברת פייסבוק לא מלינה על כך שהיא נאלצה להעלות מכתב, יכול להיות שבהחלט, אני גם מתרשם מהמנוסח וגם משיחה אישית קצרה שהייתה לי עם ג'ורדנה בפגישה כאן בכנסת, אז הם בסך הכל שמחים להתנצל. זאת אומרת הם שמחים להתנצל. אז בסדר. אבל אני חושב שעצם התשובה היא חשובה ושזה לא רק הייתה איזו הורדה, הייתה טעות, הורדנו וזה עובר לסדר היום. זה לא עבר לסדר היום ועכשיו כשאנחנו נותנים לזה מבט ציבורי וודאי שיש לזה חשיבות גדולה.

מה שכן מעניין אותי ולכן כן הייתה חשיבות לכך שחברת פייסבוק תהיה פה, איך באמת גורמים לכך שלא תהיה טעות חוזרת לעולם. יש את "טעות לעולם חוזרת", טעות, וחוזרים מטעות, אבל יש כאלה טעויות שכל הזמן חוזרות. הן חוזרות על עצמן כל הזמן בטעות. הפקת הלקחים מאוד חשובה פה. כתוב בתורה שאם נמצא חלל על יד עיר, אז כתוב שכל הזקנים של אותה עיר צריכים להתאסף ביחד, אם זה קרוב לעיר, ובסופו של דבר לבדוק מה קרה לחלל הזה. רצחו אותו, מת, ממה הוא מת, ממה נפטר, והם צריכים להגיד, המסקנה שלהם צריכה להיות "ידינו לא שפכו את הדם הזה" וכי יעלה על הדעת שהזקנים האלה הם אלה ש- - - ידינו לא שפכו את הדם הזה? ההסבר הוא האם דאגנו לו ועשינו את כל אמצעי המניעה, דאגנו שהוא בא לעיר, ראינו שהוא התארח, ראינו שמישהו נתן לו אוכל, מישהו השקה אותו או שמה שקרה שהוא יצא מחוץ לעיר, זה היה בגלל שלא עשינו דברים מקדימים שימנעו את זה שהוא יצא מהעיר ומהשמש אולי מהחום, הוא מת מרעב ומת מצמא או היה לו מחסור אחר ואיזו מצוקה אחרת. זה נקרא עד כדי כך "ידינו לא שפכו את הדם הזה". הדברים האלה זו גם מחויבות. יש מחויבות לארגון, לחברה שעושה הרבה דברים טובים, שינתה דברים מהותיים מאוד והרבה תועלות, אבל על כל דבר טוב צריך לראות אם יש תופעות לוואי, ותופעות הלוואי, מישהו צריך להתמודד איתן ומישהו צריך לקבל אחריות על הדבר הזה ולמנוע אותן. זה מקרה קלאסי של פגיעה ברגשות, גם אם אנחנו בטוחים שאף אחד לא מעורר טרור ורצח, אבל יש חובה לעשות דברים של מניעה ולראות כך שהדברים לא יחזרו על עצמם ולבדוק גם אם זה דברים אוטומטיים, אלגוריתמים או כאלה דברים שעושים את זה, צריך לדעת איך החומר האנושי שמלווה אותם - - -

נבקש כפי שגם הציעה חברת הכנסת סוויד, שנציג משרד המשפטים יאמר דברים.

אני מייעוץ וחקיקה במשרד המשפטים. נמצא לידי גם איתי מיחידת הסייבר שהוא גם יתייחס אחרי.

אתם עושים משהו עם דבר כזה?

כן. במשרד המשפטים יש פעילות היום שרלבנטית להסרת תוכן מאתרי אינטרנט בשני מישורים. פעילות אחת שנעשית מול פייסבוק במישור הוולונטרי, ירחיב עליה איתי מיחידת הסייבר, ששם בעצם נעשית פניה יזומה במקרה שמאותר על ידי המשרד, איזה שהוא פרסום מסית למשל, פייסבוק פועלים בנושא, איתי ירחיב בעניין.

בנושא הזה פניתם אליהם?

אני מיחידת הסייבר בפרקליטות המדינה. אנחנו פנינו בנושא, במסגרת הזאת, אנחנו פנינו. ברגע שהביאו לידיעתנו את המסגרת הזאת אנחנו פנינו לפייסבוק והיא באמת הוסרה תוך זמן קצר. אנחנו פונים בשגרה על תוכן מסית לאלימות וטרור לפייסבוק, החומר מגיע מהמשטרה ומשותפים נוספים שיש לנו בצוות הבין משרדי למלחמה בהסתה ברשתות החברתיות.

מה מספר הפניות בשבוע או בחודש שאתם מול פייסבוק בעניין הזה?

אנחנו צפויים לפרסם את הנתונים בצורה מסודרת במסגרת הדו"ח של הפרקליטות.

יש גם בקשת חופש מידע שתלויה ועומדת.

נכון. יש גם שולחן עגול שאנחנו הולכים לקיים יחד עם עמותות. אנחנו יכולים להגיד שבשנת 2017 אנחנו קרובים ל-12,000 בקשות שהגשנו, והנתונים יפורסמו בצורה מסודרת.

ממוצע של 1,000 בחודש.

זה טיפה משתנה, כי בתקופות של הסלמה ביטחונית אנחנו פועלים טיפה יותר.

12,000 בשנה זה המון. פניות רבות, לא מעטות, לפי כל קנה מידה. רק לפייסבוק, נכון?

רק לפייסבוק.

הסתה לטרור?

בעיקר הסתה לטרור ותוכן של ארגוני טרור. הנתונים המדויקים יפורסמו ממש בעת הקרובה. אבל זה הסדר גודל.

יש לכם גם הלימה בין הפניות למה שענו? יש דברים שלא נענים, יש ויכוחים?

עוד פעם, הנתונים לא פה אבל מדובר על סדר גודל של 85% הענות והסרה של התוכן.

85% של הסרה.

נכון. של הסרת התוכן.

אתה יכול להגדיר על מה יכול להיות הוויכוח? מה יכול להיות הוויכוח בין אם זה נקרא הסתה או לא הסתה או אחריות או לא אחריות. איפה יכול להיות הוויכוח, על התוכן עצמו או על דברים מסביב?

קשה לי להגדיר את זה כרגע, אין לי תשובה לתת לך. זה מאוד משתנה. יכול להיות דברים, ארגונים שהם לא מוכרים ברמה עולמית, יכול להיות תכנים עצמם שמובהקות ההסתה היא לא הולמת כמו שאנחנו רואים אותה, כמו שפייסבוק רואה אותה, אבל בגדול מדובר יחסית במעט חומרים שלא מוסרים.

אתם מנהלים מעקב אחרי הדברים האלה, מה משך הזמן שקורה מאז שאתם פונים עד שזה נעשה? יש בזה גם ממשק, הוסר אחרי יומיים או הוסר מיד, ההיענות, הקשר המידי, איך זה עובד?

זה תלוי בתקופה. בתקופות של הסלמה אנחנו מקבלים תגובות מאוד מהירות, יכול להיות בין שעה לשעות ספורות. בשגרה אני מעריך שאנחנו תוך 24 שעות, 48 שעות מקבלים תשובה.

יש גם מצב שסוגרים את הפייסבוק למישהו? זה רק הסרה של חומר טרור או שיש גם פעולות יותר- - -?

יש גם הסרה של פרופילים ועמודים שלמים.

תודה, הייתי יכול לשמוע יותר אבל פשוט מבקשים לשמוע עוד דוברים שביקשו גם לדבר. בבקשה.

אני רק עוד אשלים ואומר שזאת פעילות שנעשית כבר היום. מעבר לכך, במבט יותר צופה פני עתיד יש היום הצעת חוק ממשלתית תלויה ועומדת שמוכרת בשם חוק הפייסבוק, ששם בעצם אמורה להינתן סמכות לבית המשפט להסיר תוכן, גם במקרים שבהם ההיבט הוולונטרי לא עובד.

יש גם הצעת חוק פרטית של הסתה לטרור שאומרת שפייסבוק חייבים לנטר ועל אחריותם לנטר ולהסיר, היא מוצמדת להצעת החוק הממשלתית והיא במקרה שלי, זה גם נדון באותו העניין. אנחנו חושבים שהסתה לטרור זה משהו שפייסבוק וכל הרשתות צריכים לדאוג שלא יימצא בקרבם והמחויבות שלהם היא לנטר ולהסיר. בלי השוואות, כמו שהם דואגים שלא תהיה פורנוגרפיה ופדופיליה, לא צריך להיות גם הסתה לטרור ברשת.

אני רואה שזמננו קצר. בבקשה ד"ר תהילה שוורץ, המכון הישראלי לדמוקרטיה.

תודה רבה אדוני. בוקר טוב, דבר ראשון אני גם רוצה לברך על הדיון הזה והעבודה שעושה חברת הכנסת סוויד יחד עם ועדת המדע, ללא ספק מובילה גם לתוצאות. אנחנו אוהבים לספר לעצמנו שאנחנו נמצאים בתור הזהב של הזכות לחופש ביטוי אבל אנחנו לא יודעים להתמודד עם כל הרעל שנמצא סביבנו. אני רוצה לומר פה כמה דברים, הדבר האחד הוא שבא משרד המשפטים ומספר לנו סיפור שהוא מאוד מאוד בעייתי וצריך לשים אותו על השולחן. תהליך האכיפה האלטרנטיבית שמתבצע על ידי משרד המשפטים ללא הסמכה בחוק ותוך פגיעה בזכויות אדם, הוא תהליך מאוד בעייתי וזה לא לחינם שעוד אין לנו גם נתונים. אני שומעת עכשיו על נתונים מאוד מפתיעים, שמעתי על 4,000 פניות, לא שמעתי על 12,000. אני שמעתי על 92% של הסכמה. אדוני שאל את משרד המשפטים איפה נמצא השפיל, השפיל נמצא במקומות שאולי המדינה מבקשת יותר ממה שצריך להסיר.

פה אני רוצה לשים על השולחן שלושה דברים לחשיבה נוספת. ראשית גם לחברת הכנסת סוויד, הצעת חוק הפייסבוק היא הצעה רעה כי היא רחבה מדי. היא עוסקת גם בהעלבת עובד ציבור וגם בטרור. לו הייתה לוקחת על עצמה הוועדה עכשיו באמת את הנושא הזה של היכולת - - -

זה פחות בוויכוח. ההגדרה יותר גם - - -

בדיוק. אני לא חושבת שארגוני החברה האזרחית כולל האגודה לזכויות האזרח, שלא לדבר על המכון הישראלי לדמוקרטיה היו מתנגדים לזה. זאת אומרת, בואו נעזוב את הסיפור של עבודה מול האזרחים הישראלים ושל כל מיני סיבות של שלום הציבור והתנגדות למשטר, ונדבר על הסתה לטרור שפה באמת אין מחלוקת, ובמקום זה מכניסים לנו את הכל פה בחבילה אחת.

ישבנו בחוקים אחרים וכבר חידדנו את הדברים בהגדרות, בוועדת חוקה.

זה נכון, לכן אני אומרת, העבודה שלנו עכשיו היא להגיד איפה המרחב המשותף וכדאי לטפל בו כי הדרך שבה תהליך ה- - - האלטרנטיבית נעשה עכשיו הוא לא טוב.

אני חושב שזאת הצעה נכונה.

זה דבר אחד, ואני רוצה להגיד פה שני דברים שכדאי לזכור אותם. ראשית פייסבוק לפני שבוע וחצי פרסמה לכל המשתמשים שלה בישראל וכמובן לכל מי שנמצא מחוץ לאיחוד האירופי ולקנדה הודעה כזאת שלפיה היא מתחילה לתייג אותנו, זיהוי פנים, בתמונות שאנחנו לא ביקשנו לתייג אותם. בעצם אותו תהליך היה צריך להתבצע כאן. אם יכולים לתייג פנים כדי לפגוע לנו בפרטיות וכדי לאגור עלינו עוד מידע, סליחה, המחבל הזה אפשר היה לדעת שהוא מחבל. את אותה טכנולוגיה שמפעילים כדי לנטר אותנו צריך היה לעשות בפעם הזאת וזה מוביל אותי לנקודה השנייה.

מה שאת אומרת תהילה, שזה דברים מאוד חשובים, נותנים יותר מתחושה שיש פה לכולנו בשולחן שהם ידעו מראש שהוא מחבל. שמי שאישר את זה ידע שהוא מחבל.

פה אני מגיעה לנקודה השנייה, זה בדיוק מוביל אותי לנקודה השנייה והדיון הזה הוא חשוב מכל חשוב, שלא ייאמר אחרת וזה המגבלות של המכונות. אני רוצה שזה יהיה כל הזמן על השולחן ואני אמשיך להגיד את זה עוד פעם ועוד פעם. אנחנו מדברים על אלגוריתמים. מדובר על מכונות לומדות והמאפיין המרכזי של מכונות לומדות הוא הקופסה השחורה, הוא העובדה שאי אפשר ברברס אינג'נירינג להגיד איך המכונה הגיעה למסקנה שאליה היא הגיעה. העולם הזה שבו אי אפשר לנטר אחורה את תהליך קבלת ההחלטות צריך להטריד כל אחד פה כי הוא נכון לפייסבוק והוא נכון למערכות שהמשטרה תאמץ והוא נכון למערכות של הרכבים האוטונומיים. וזו צריכה להיות המשימה הכי גדולה שלנו לדורות הקרובים. תודה.

תודה. דורי בן ישראל בבקשה.

תודה. אני לוביסט מטעם עמותת טרון למען משתמשים ברשת. חשוב להבין שהמקרה שהגענו פה להתדיין עליו הוא לא באג, הוא לא תקלה, הוא מדיניות של חברת פייסבוק שבחרה לא לשלוח לפה את מנהלת המדיניות שלה.

לא, אני חייב להגיד, המנהלת בחוץ לארץ. לא תיאמנו את זה.

אין אף אחד אחר?

לא תיאמנו את זה, אנחנו קבענו את זה - - -

לא צריך להגן עליהם.

לא צריך להגן אבל צריך להיות הוגנים. היא אמרה שהיא בחוץ לארץ ורצתה לבוא בתאריך אחר. לא יכולנו כי אנחנו על ציר של סוף המושב. היא הייתה מוכנה לבוא לפה רק לא בתאריך הזה שהיא לא יכלה.

חשוב לדעת שהיום 53% מהטרוריסטים שעושים פיגועי דקירה, התאבדות, יוצאים בעקבות סטטוסים בפייסבוק, יוצאים בעקבות הסתה בעשרות אלפי קבוצות שמתנהלות בפייסבוק, קבוצות שלא משרד המשפטים ולא המכון לדמוקרטיה ולא שום חברה בעלת יכולות ניטור תוכן יכולה להגיע לאותם תכנים. 12,000 דרישות להסרת תוכן הם קמצוץ לעומת התוכן שבאמת ראוי להיות מוסר מפייסבוק וחשוב לזכור שבגלל הדברים האלה אנשים מתים, בשנת 2017 8,100 איש מסביב לעולם מתו בגלל מחבלים שיצאו בגלל שלמדו לבצע פיגועים אפקטיביים בתוך פייסבוק. יש פה עניין של חיים ומוות של אנשים.

תודה. המשטרה רוצה להוסיף משפט?

אני ממדור חקירות. האמת שלא התבקשנו, אדוני היושב ראש, לתת נתונים ולכן אין בידיי. באמת גם הפתיחה בחקירה וגם הסרת התכנים מצויים באמת במגרש של משרד המשפטים. דפי פייסבוק גם מנוטרים על ידי המשטרה וגם בתלונות, בין אם זה עבירות של הסתה לאלימות, טרור או השתייכות או עידוד, כשבאמת המסגרת הזו שאנחנו לא היינו מודעים לה, היא אחת ממכלול האינדיקציות והתכנים שאנחנו שוקלים כחלק מהתשתית הראייתית בהמלצה למשרד המשפטים באם לפתוח בחקירה או לא. החקירה כמובן היא כנגד חשודים ולא כנגד חברת פייסבוק באופן ברור.

המקרה הזה היה מודע לכם?

לא.

אז איך - - -

תודה רבה. תם ולא נשלם. אנחנו חייבים לסיים. אם אנחנו גולשים הבעיה היא של מנהלת הוועדה ולא שלנו. יש הקפדה. רבותי, אנחנו בדיון מהיר, נסיק מסקנות. אנחנו לא השלמנו את הדיון, רק נגענו בו אבל כן צריך להגיד שחברת פייסבוק ענתה ש"מסגרת זו הייתה אסורה על פי כללי הקהילה שלנו ופעלנו להשבית במהירות, זאת מסגרת שנוצרה על ידי משתמש באמצעות פלטפורמת אפקטים במצלמה. כאמור, כל המסגרות עוברות תהליך בקרה ואישור לפני שהן עולות לאוויר אולם במקרה זה נעשתה טעות אנוש והמסגרת אושרה בשוגג. השבתנו אותה מכל אפשרות לשימוש נוסף. אנו נוקטים כעת בצעדים לשפר את תהליך הסלקציה ובוחנים את תהליכי הבקרה לתוכן טרור וכל תוכן אחר שמפרא ת כללי הקהילה שלנו. בין הצעדים שננקטים שיפור זמני התגובה וכן ניתוב הבקרה של מסגרות מסוימות לצוותים המתמחים בטרור" לא רק אלגוריתם, אלא הרבה לפני ניתן להעביר. "אנחנו עומדים לרשותכם במידה שיש שאלות נוספות" כך כתבה ג'ורדנה קטלר.

תודה רבה. אנחנו נגיש מסקנות וכנראה שנמשיך את הדיון הזה בהזדמנות אחרת בהרחבה יותר. תודה.

הישיבה ננעלה בשעה 11:02.