בשבוע שעבר התרחשה תאונה מחרידה בטקסט בדגם מודל S של טסלה בו מצאו את מותם שני צעירים לאחר שהרכב התנגש בעץ ועלה בלהבות. המקרה עלה לכותרות לא רק כי מדובר בטסלה שתמיד מייצרת עניין אלא בעיקר כי לפי חוקרי המשטרה המקומית מאחורי ההגה לא היה נהג.
אילון מאסק, האיש והאגדה מאחורי טסלה, הגיב בציוץ לאחר שהמקרה עלה לכותרות כי לפי בדיקה פנימית שלהם מערכת הנהיגה הסמי-אוטונומית Autopilot לא פעלה בזמן התאונה, לרכב לא הייתה את חבילת ההרחבה של המערכת המאפשרת יכולות נהיגה אוטונומיות מורחבות, מערכת Autopilot לא תפעל כאשר אין סימון ברור של נתיבים כפי שהיה בנתיב בו נסע הרכב ושבכל מקרה, לא ניתן להפעיל את מערכת Autopilot ללא נהג מאחורי ההגה.
את המשפט האחרון הזה של מאסק החליט ארגון הצרכנות האמריקאי קונסיומר ריפורטס (consumer report) להעמיד למבחן והתוצאות לא חיוביות שכן מהנדסי החברה הצליחו די בקלות להערים על המערכת המוודאת כי הנהג נמצא בשליטה, הבדיקה נעשתה על טסלה מודל Y שהוא הדגם העדכני ביותר כיום של טסלה. כל מה שנדרש בכדי להערים על המערכת זה לחבר את חגורת הבטיחות, לקשור משקולת קלה על ההגה וזהו, מבחינת המערכת יש נהג מאחורי ההגה וניתן היה להפעיל את מערכת הנהיגה האוטונומית.
מערכת Autopilot מוודאת כי הנהג נמצא בשליטה באמצעות חיישן חגורת הבטיחות המשדר למערכת אם הנהג חגור ובאמצעות חיישן גלגל ההגה המזהה את המיקרו-תיקונים שכל נהג מבצע במהלך נסיעה, משום מה היא לא עושה שימוש בחיישן המשקל במושב האחראי על הפעלת כרית האוויר. לטענת הארגון זה כלל לא מספיק ועל טסלה לשדרג את המערכת שלה כפי שיצרנים רבים עושים כיום (במה שנקרא מערכת בקרת ערנות נהג) באמצעות חיישני מגע על גלגל ההגה ובעיקר באמצעות מצלמה שסורקת את המבט והאישונים של הנהג ומוודאת כי על רק שיש נהג מאחורי ההגה אלא גם אם מבטו מופנה כלפי הכביש ואת מידת הערנות שלו.
יש לציין כי כאשר מערכת Autopilot הרגילה מזהה שהנהג לא בשליטה (לא אוחז בהגה) היא משמיעה התראה ואם הנהג לא מגיב וחוזר לאחוז בהגה היא תביא את הרכב לכדי עצירה מלאה תוך כדי הפעלת אורות מצוקה בכדי לסמן לנהגים מסביב. לא רק זה, המערכת תסרב לפעול בחזרה למשך כל שאר הנסיעה כסוג של עונש, בדיוק בכדי למנוע מכל מיני נהגים לעשות שטויות עם בקרת השיוט האדפטיבית ולתת לרכב לנהוג בעצמו (אלא אם הנהג עוצר, יוצא, נועל וחוזר לרכב).
את כל הסאגה הזו טסלה יכול לפתור די בקלות ע"י עדכון תוכנה שכן הדגמים העדכניים שלה, כגון מודל 3 ומודל Y, מצוידים במצלמה פנימית בתא הנוסעים שלמעשה עושה בדיוק את מה שמצלמה כזו אמורה לעשות, לבדוק את הנהג. המצלמה הזו נועדה עקרנית לשלב מאוחר יותר של נהיגה אוטונומית מלאה כמצלמת ביקורת לחלל תא הנוסעים, אך כבר כיום היא מסוגלת לבדוק את כיוון המבט של הנהג, האם הוא משתמש בטלפון סלולרי ועוד. בדבר השאלה של מי ירצה שחברת רכב תוכל לצלם ולשמור את כל הנעשה בפנים הרכב כל הזמן, זו כבר שאלה אחרת.
מצד אחד, זה ברור שעל יצרני הרכב חובה להתקין מערכות עם מנגנוני בטיחות ואל-כשל מקיפים בכדי למנוע שימוש לרעה במערכות נהיגה מתקדמות, אך מהצד השני יש לקחת דברים בפרופורציה הנכונה שכן בני אדם המתחרים על "פרס דרווין" יכולים למצוא את מותם באינספור צורות שונות ומשונות ותמיד ימצאו את הדרך לדבר המטופש הבא, הבעיה מתחילה כאשר יכולים להיות מעורבים בכך גם משתמשי דרך אחרים. כמובן שאל תנסו את זה בבית עם טסלה או כל רכב אחר המצויד במערכת נהיגה סמי-אוטונומית, בשלב זה אלו מערכות סיוע בלבד לנהג האנושי ולא ניתן לסמוך עליהן במאת האחוזים.
גם על טסלה ובעיקר העומד בראשה חלה אחריות והיא צריכה להיות הרבה יותר אקטיבית בביקורת שלה כלפי שימוש חסר אחריות במערכת Autopilot ואלפי סרטונים ברשת הן עדות לכך. מאסק בחר לצחקק וללגלג על הביקורת בחשבון הטוויטר שלו, מוטב לו פשוט היה אומר שהחברה בוחנת את הנושא ותבדוק איך ניתן לשפר את המערכת, כי יש מה לשפר.
