پشت پرده: آمارهای اغراق‌آمیز تسلا و نمایش‌های شایستگی مبتنی بر هوش مصنوعی

بخش دوم از دو بخش
بخش اول

در حالی که کارمندان تسلا ویدیوهای اشتباهات FSD را تماشا می‌کردند، هیئت مدیره و مدیرعامل شرکت ادعاهای خود را درباره ایمنی این فناوری و آمادگی آن برای خودمختاری کامل افزایش دادند. در بیشتر ماه‌های سال گذشته، مدیران تسلا ادعای ۱۰ برابر ایمن‌تر بودن را تبلیغ کردند.

مدیر مالی تسلا، تانجا، در یک تماس درآمدی در ماه جولای گفت: «خودرویی که از FSD استفاده می‌کند و ۱۰ برابر ایمن‌تر است»، فروش را افزایش می‌دهد. «حتی با ۹۹ دلار در ماه، مثل این است که یک راننده شخصی با تقریباً ۳.۳۳ دلار در روز دارید.»

یک مشکل اساسی در روش‌شناسی تسلا از یک خطای مقایسه‌ای ناشی می‌شود که سطح ایمنی ادعایی تسلا را سه برابر بیش از حد واقعی نشان داد. این خودروساز تصادفات تسلا با استقرار کیسه هوا را شمارش کرد و آن‌ها را با داده‌های فدرال درباره تمام تصادفاتی که در آن‌ها یک خودرو توسط یدک‌کش حمل شده بود مقایسه کرد — معیاری بسیار کمتر محدودکننده. تصادفاتی که نیاز به یدک‌کش دارند اغلب به اندازه کافی شدید نیستند که کیسه هوا را فعال کنند.

تسلا این رویکرد مقایسه ناهمجنس را اتخاذ کرد، حتی با اینکه داده‌های قابل مقایسه به راحتی در دسترس بودند: داده‌های فدرال مورد استفاده شامل تصادفاتی می‌شد که در آن‌ها کیسه هوا باز شده بود. این روش‌شناسی معیوب این یافته را تولید کرد که خودروهای تسلا با استفاده از FSD یا Autopilot ۱۰ برابر بیشتر از یک راننده انسانی معمولی بین تصادفات مسافت طی می‌کنند.

مقایسه معتبرتر — با استفاده از تصادفات مربوط به کیسه هوا برای تسلاها و سایر خودروها — نشان می‌دهد که خودروهای تسلا با استفاده از سیستم‌های کمک‌راننده حدود سه برابر بیشتر بین تصادفاتی که کیسه هوا باز شده مسافت طی می‌کنند، بر اساس تحلیلی که مارکو بندتی، دانشمند پژوهشی دستیار در موسسه تحقیقات حمل‌ونقل دانشگاه میشیگان و آمارشناس سابق NHTSA، برای رویترز انجام داد. دو محقق دیگر ایمنی ترافیک محاسبات بندتی را بررسی کردند و با یافته‌ها موافقت کردند.

اما بندتی گفت این بدان معنا نیست که FSD واقعاً سه برابر از راننده معمولی ایمن‌تر است، زیرا چندین نقص دیگر در روش‌شناسی تسلا وجود دارد.

تسلا در ماه نوامبر رویکرد خود را تعدیل کرد تا فقط داده‌های خودروهای استفاده‌کننده از FSD را شامل شود و آن‌هایی که از Autopilot استفاده می‌کردند را حذف کند. گنجاندن Autopilot مایل‌های ادعایی تسلا بین تصادفات را افزایش داده بود زیرا سیستم کمتر پیشرفته‌ای است که فقط برای جاده‌های بین‌شهری طراحی شده — جایی که خودروها مایل‌های بیشتری طی می‌کنند و بسیار کمتر از خیابان‌های شهری تصادف می‌کنند. با این حال، شرکت همچنان از مقایسه معیوب تصادفات با کیسه هوا در وب‌سایت خود استفاده می‌کند تا ادعا کند FSD هفت برابر از راننده انسانی معمولی ایمن‌تر است، یا حدود ۸۵٪ ایمن‌تر به صورت درصد تغییر.

رویترز دریافت که چندین اندازه‌گیری معیوب دیگر که توسط تسلا استفاده می‌شود، تردید ایجاد می‌کند که آیا FSD اصلاً ایمن‌تر است یا نه.

به عنوان مثال، این خودروساز هنگام مقایسه نرخ تصادف خودروهایش با نرخ ملی، سن خودرو را در نظر نمی‌گیرد. تسلا خودروهای خود را — که بر اساس داده‌های S&P Global Mobility به طور میانگین فقط ۴.۱ ساله هستند — با تمام خودروهای آمریکایی مقایسه می‌کند که میانگین سن ۱۲.۸ ساله دارند. ۱۰ محقق ایمنی به رویترز گفتند که این نتایج را منحرف می‌کند، زیرا تقریباً تمام خودروسازان اخیراً شروع به ارائه ویژگی‌های ایمنی پیشرفته، از جمله مانیتورینگ نقطه کور و ترمز اضطراری خودکار، در تمام خطوط تولید خود کرده‌اند.

تسلا همچنین تعداد تصادفات خود را با شمارش فقط تصادفاتی که یا با روشن بودن FSD اتفاق می‌افتند یا در عرض پنج ثانیه پس از خاموش شدن این ویژگی رخ می‌دهند، کاهش می‌دهد. در مقابل، دولت آمریکا از خودروسازان می‌خواهد تصادفاتی را که در عرض ۳۰ ثانیه پس از غیرفعال شدن یک سیستم کمک‌راننده پیشرفته رخ می‌دهند، گزارش کنند.

تسلا می‌گوید FSD می‌تواند سالانه بیش از ۳۲,۰۰۰ جان را نجات دهد و از بیش از ۱.۹ میلیون آسیب جلوگیری کند. برخی از محققان ایمنی ترافیک این ارقام را بی‌معنی دانستند زیرا بر اساس این فرض غیرواقعی هستند که هر خودروی آمریکایی، از جمله کامیون‌های باری و موتورسیکلت‌های مستعد تصادف، با یک خودروی تسلا مجهز به FSD جایگزین می‌شود — و اینکه هر خودروی تسلا در واقع حداقل هفت برابر از خودروی جایگزین شده‌اش ایمن‌تر است.

رویکرد دقیق‌تر Waymo

پیش‌فرض آمار ایمنی تسلا نیز معیوب است زیرا FSD یک سیستم واقعاً مستقل نیست، ۱۰ محقق ایمنی ترافیک گفتند. تسلا فناوری خود را با راننده‌های انسانی مقایسه نمی‌کند، همان‌طور که مدیران می‌گویند. در عوض، این خودروساز راننده انسانی معمولی را با یک انسان معمولی دیگر مقایسه می‌کند — کسی که با استفاده از FSD یک تسلا را می‌راند. تسلا همچنین این واقعیت را در نظر نمی‌گیرد که این رانندگان می‌توانند FSD را روشن و خاموش کنند — و تحقیقات نشان می‌دهد رانندگان اغلب از استفاده از سیستم‌های کمک‌راننده پیشرفته در موقعیت‌های ترافیکی پیچیده که فناوری برای آن‌ها ناامن به نظر می‌رسد، اجتناب می‌کنند. داده‌های خود تسلا نشان می‌دهد FSD بیشتر در جاده‌های بین‌شهری استفاده می‌شود.

در مقابل، Waymo متعلق به Alphabet، تاکسی‌های رباتیک کاملاً بدون راننده خود را که اکنون در ۱۱ منطقه کلان‌شهری آمریکا مستقر شده‌اند، با خودروهای با راننده انسانی در شرایط مشابه مقایسه می‌کند.

Waymo رویکردی دقیق‌تر از تسلا دارد، داده‌های تصادف را در بازارهایی که در آن‌ها فعالیت می‌کند بررسی می‌کند و برای انواع جاده‌ها و محله‌هایی که تاکسی‌های رباتیک آن عبور می‌کنند تنظیم می‌کند. Waymo بر نرخ‌های تصادف خاص تمرکز دارد — مانند آن‌هایی با استقرار کیسه هوا یا آسیب‌های جدی — برای هر دو خودروهای خود و خودروهای با راننده انسانی در همان بازارها.

جان اسکانلون، محقق ایمنی Waymo، گفت: «ما باید واقعاً با زبانی که استفاده می‌کنیم بسیار دقیق باشیم. شما به سوالات پژوهشی بسیار مشخص و نتیجه‌گیری‌های بسیار مشخص نیاز دارید.»

Waymo همچنین کمبودهای داده‌های خود را مطرح می‌کند و با محققان خارجی همکاری می‌کند تا آمار ایمنی خود را در مجلات داوری‌شده منتشر کند. در مقابل، تسلا هیچ داوری همتا را نمی‌جوید و تنها ادعاهای آماری ایمنی سطح بالا را منتشر می‌کند در حالی که داده‌های تصادف زیربنایی خودروهای تسلا را محرمانه نگه می‌دارد.

ویدیوهای برخورد تسلاها با سگ‌ها، گربه‌ها و گوزن‌ها

در داخل تسلا، برچسب‌گذاران داده دیدگاهی بی‌پرده از ایمنی FSD دارند. سه کارمند سابق چندین ویدیو را توصیف کردند که نشان می‌داد تسلاها در تشخیص حیوانات شکست می‌خورند و با سرعت به آن‌ها برخورد می‌کنند — بدون ترمز گرفتن.

پنج کارمند سابق گفتند تیم‌های خاصی بر مشکلات FSD در تشخیص اتوبوس‌های مدرسه تمرکز داشتند. این نگرانی توسط یک گروه ایمنی فناوری به نام پروژه Dawn مطرح شده بود که در طول سوپر بول‌های ۲۰۲۳ و ۲۰۲۴ آگهی‌هایی پخش کرد که ویدیوهای تسلاهای مجهز به FSD را نشان می‌داد که برای اتوبوس‌ها با علائم توقف و چراغ‌های چشمک‌زن متوقف نمی‌شدند.

دو کارمند سابق گفتند که کلیپ‌های ویدیویی مشابهی را در داخل تسلا دیده‌اند.

پنج برچسب‌گذار سابق داده، یک محیط کاری آشفته و ناهماهنگ را توصیف کردند که اولویت‌ها بر اساس دستورالعمل‌های ماسک و مهندسان FSD تغییر می‌کرد. آن‌ها گفتند واحد برچسب‌گذاری داده با جابجایی مزمن نیرو به دلیل کار یکنواخت و حقوق پایین مواجه بود.

چهار کارمند سابق گفتند مدیران ارشد تسلا اغلب پروژه‌های جدیدی را در واکنش به گزارش‌های خبری یا پست‌های رسانه‌های اجتماعی نشان‌دهنده اشتباهات FSD آغاز می‌کردند. یکی از آن‌ها تلاشی را برای رفع مشکل پوشاندن دوربین‌های خارجی خودروها توسط نور خورشید توصیف کرد. این کار توسط یک ویدیوی رسانه اجتماعی آغاز شد که نشان می‌داد چگونه نور بازتاب‌شده از ساعت یک مسافر یکی از دوربین‌ها را کور کرد و FSD را خاموش کرد. تلاش دیگری بر روی تقاطع‌های راه‌آهن پس از گزارش‌های خبری درباره شکست تسلاهای هدایت‌شده توسط FSD در توقف در آن‌ها انجام شد.

پنج کارمند گفتند کلیپ‌های FSD همچنین به طور منظم تخلف سرعت را نشان می‌داد که مهندسان و دیگران در سلسله مراتب آن را به عنوان یک مشکل با اولویت پایین تلقی می‌کردند.

یک کارمند گفت برچسب‌گذاران پس از معرفی حالت «Mad Max» FSD که رانندگی تهاجمی‌تری را امکان‌پذیر می‌کرد، به طور منظم می‌دیدند که تسلاها ۲۰ تا ۳۰ مایل در ساعت از محدودیت سرعت تجاوز می‌کنند. یک برچسب‌گذار دیگر گزارش داد که خودرویی با هدایت FSD را با سرعت ۶۰ مایل در ساعت در یک منطقه ۲۵ مایل در ساعتی دیده است.

نمایش‌های عمومی تاکسی رباتیک

در حالی که کارمندان تسلا برای آموزش FSD تلاش می‌کردند، ماسک در اکتبر ۲۰۲۴ قابلیت‌های خودران تسلا را در یک رونمایی باشکوه تاکسی رباتیک در محوطه استودیو Warner Bros. نزدیک لس‌آنجلس تبلیغ کرد. جمعیت دعوت‌شده هنگامی که ماسک به حدود ۲۰ نمونه اولیه از «Cybercab» دو در که فرمان یا پدال ندارد و در استودیو در حرکت بودند اشاره کرد، تشویق کردند.

او گفت: «خودروها فقط در حال عبور هستند، بدون هیچ‌کس.»

ماسک گفته است که نرم‌افزار تسلا طراحی شده تا در هر جایی کار کند و در زمان واقعی از مناظر ناآشنا عبور کند. اما برای هفته‌ها قبل از رویداد Cybercab، کارکنان هر شب از ساعت ۱۸:۰۰ تا سپیده‌دم نمونه‌های اولیه را آزمایش کردند و ویدیوی مسیری که خودروها در رونمایی دنبال می‌کردند را جمع‌آوری کردند، بر اساس گفته‌های دو کارمند سابق برچسب‌گذاری داده. کارمندان گفتند برچسب‌گذاران صدها ساعت صرف حاشیه‌نویسی جدول‌ها و علائم جاده در ویدیو کردند تا از بروز حوادث شرم‌آور جلوگیری کنند.

Waymo قبل از راه‌اندازی در شهرهای خاص چنین نقشه‌برداری را در مقیاس بزرگ انجام می‌دهد — رویکردی که ماسک بارها آن را به عنوان بسیار پرهزینه و کند رد کرده است. ماسک در ۲۰۲۴ «راه‌حل‌های بسیار محلی‌سازی‌شده» Waymo را «کاملاً شکننده» خواند.

پس از رویداد Warner Bros.، ماسک در یک تماس درآمدی در ژانویه ۲۰۲۵ اعلام کرد که تسلا در ژوئن ۲۰۲۵ در آستین تاکسی‌های رباتیک راه‌اندازی خواهد کرد. او فناوری را به عنوان یک «راه‌حل کلی هوش مصنوعی» تبلیغ کرد که نیازی به «نقشه‌های با دقت بالا از یک منطقه» ندارد.

با این حال، برای ماه‌ها قبل از راه‌اندازی آستین، تسلا به طور گسترده ویژگی‌ها را در یک منطقه محدود تاکسی رباتیک فیلم‌برداری کرد تا منطقه را نقشه‌برداری کند، چراغ‌های قرمز، تابلوهای جاده و سایر ویژگی‌ها را ضبط کرد. بر اساس گفته‌های دو کارمند با آگاهی مستقیم از موضوع، برچسب‌گذاران داده آن ویدیو را حاشیه‌نویسی کردند تا اطمینان حاصل کنند که نرم‌افزار می‌تواند سناریوهای چالش‌برانگیز، از جمله سوار کردن مسافر و واکنش به وسایل نقلیه اضطراری را مدیریت کند.

سه تن از کارمندان گفتند کارکنان برچسب‌گذاری داده یوتا در نیم سال قبل از راه‌اندازی آستین دو برابر شد و به حدود ۳۰۰ کارگر رسید. آن‌ها گفتند این بخش عمدتاً بر پروژه‌هایی کار می‌کرد که آزمون کنترل‌شده آستین را به خوبی پیش ببرد.

دو کارمند گفتند در حالی که برچسب‌گذاران داده تسلا برای راه‌اندازی آماده می‌شدند، نرم‌افزار هنوز ناپایدار بود. با هر به‌روزرسانی FSD، برخی از رفتارهای رانندگی بهبود یافت. برخی دیگر بدتر شد. در دفتر یوتا، دو صفحه نمایش بزرگ آمار مایل‌های بین مداخلات راننده برای FSD را نشان می‌داد — یک معیار کلیدی ایمنی رانندگی مستقل.

یکی از کارمندان سابق گفت: «مثل بورس بالا و پایین می‌رفت» بدون هیچ بهبود مستمری.

خودروها با دو دسته ناظر ایمنی انسانی که در دسترس بودند تا کنترل را در دست بگیرند وارد خیابان‌ها شدند: یکی در صندلی جلوی مسافر نشسته بود و دیگران از راه دور نظارت می‌کردند. در یوتا، برچسب‌گذاران می‌توانستند در ویدیوها ببینند که ناظران از راه دور چه زمانی کنترل خودروها را در دست می‌گرفتند. یک کارمند سابق گفت مسیرهای آستین برای یک منطقه محدود طراحی شده بودند تا نرم‌افزار خودروها بتواند به طور گسترده بر روی مانورهای خاص در خیابان‌های خاص آموزش ببیند.

آن شخص گفت: «مثل این بود که، 'خوب، ما یک خودرو را آموزش دادیم'» تا در یک منطقه محدود فعالیت کند. «نمی‌توانید خارج از آن خلاقیت داشته باشید.»

چهار نفر از منابع گفتند که افزایش مقیاس با ایمنی می‌تواند سال‌ها طول بکشد. در جولای، یک ماه پس از راه‌اندازی تاکسی رباتیک آستین، ماسک پیش‌بینی کرد که خدمات تا پایان ۲۰۲۵ برای خدمت به نیمی از جمعیت آمریکا گسترش خواهد یافت.

در ژانویه، ماسک به دروغ ادعا کرد که تسلا ۵۰۰ «خودروی تاکسی رباتیک» در آستین و منطقه خلیج سانفرانسیسکو دارد و افزود که انتظار دارد این تعداد هر ماه بر روی یک «منحنی نمایی» دو برابر شود. ماسک گفته است تسلا یک «سرویس تاکسی رباتیک» در منطقه خلیج دارد در حالی که در واقع تنها یک سرویس حمل‌ونقل مشترک تحت مجوز ایالتی که معمولاً توسط رانندگان شخصی استفاده می‌شود و نیاز به راننده انسانی دارد، اداره می‌کند.

در واقعیت، نزدیک به یک سال پس از راه‌اندازی آستین، تسلا هنوز فقط حدود ۵۰ تاکسی رباتیک در آنجا دارد، بر اساس یک ارائه اسلاید اخیر توسط مقامات شهری. سه منبع گفتند خودروها از یک منطقه محدود و با دقت نقشه‌برداری‌شده عبور می‌کنند. برخی هنوز ناظران ایمنی انسانی در صندلی جلوی مسافر دارند، بر اساس مشاهدات اخیر یک خبرنگار رویترز.

در آوریل، تسلا اعلام کرد که در حال راه‌اندازی تاکسی‌های رباتیک در دالاس و هیوستون است، همراه با نقشه‌هایی که مناطق تحت خدمات را نشان می‌دهند.

خبرنگاران رویترز که اخیراً سرویس را در هر دو شهر آزمایش کردند، زمان انتظار طولانی و دسترسی نامنظم را یافتند. در سه مورد که یک خبرنگار موفق به گرفتن سواری در دالاس شد، تاکسی رباتیک او را در مقصد مرکز شهرش در محدوده خدماتی تبلیغ‌شده تسلا پیاده نکرد.

هر بار، او را در فاصله‌ای حدود ۱۵ دقیقه پیاده رها کرد. – Rappler.com