FOSSBYTES TECH SIMPLIFIED LOGO

We đang dần bước vào kỷ nguyên ô tô tự lái. Nhiều công ty như Tesla, Google và Uber đang đạt được những cột mốc quan trọng để đưa chúng ta đến gần hơn với ngày chúng ta ngồi lại và thư giãn trong khi các hệ thống thông minh sẽ tự động lái xe của chúng ta. Tuy nhiên, yếu tố rủi ro vẫn có liên quan và những vụ tai nạn gần đây do ô tô tự lái gây ra là dấu hiệu cho thấy chúng ta còn rất xa so với ngày đó.

Trong khi việc vượt qua các chướng ngại vật và đưa ra quyết định tức thì vẫn là những vấn đề chính, các nhà nghiên cứu đã phát hiện ra một vấn đề với ô tô tự lái – khả năng phát hiện kém đối với người đi bộ có làn da sẫm màu.

A nghiên cứu do Viện Công nghệ Georgia tiến hành đã kết luận rằng hệ thống tự lái kém chính xác hơn năm phần trăm trong việc phát hiện người đi bộ có làn da sẫm màu.

Các nhà nghiên cứu bắt đầu phân tích độ chính xác của việc ra quyết định của các mô hình phát hiện đối tượng hiện đại bằng cách xem xét cách các hệ thống như vậy phát hiện những người thuộc các nhóm nhân khẩu học khác nhau.

Tập dữ liệu chứa hình ảnh về người đi bộ và sau đó tách nó thành hình ảnh với những người đi bộ có tông màu da khác nhau. Điều này được thực hiện bằng cách sử dụng thang điểm Fitzpatrick, phân loại con người theo tông màu da từ sáng đến tối.

Hệ thống cho thấy việc ra quyết định thiên lệch ngay cả khi các biến số khác nhau như thời gian trong ngày trong hình ảnh và sự cản trở không thường xuyên của người đi bộ được đưa vào nghiên cứu.

Một trong những lý do đằng sau hệ thống tự lái ‘phân biệt chủng tộc’ là thiên vị thuật toán. Sự thiên vị thuật toán phát sinh do hành vi thiên vị của con người, sau đó ngấm vào các hệ thống. Hệ thống máy tính bắt chước hành vi của các nhà thiết kế tác động đến khả năng ra quyết định của nó.

Nghiên cứu cho thấy sự thiên vị về thuật toán đối với những người da ngăm đen, nhưng điều quan trọng là phải biết rằng nghiên cứu chưa được bình duyệt và không sử dụng mô hình phát hiện đối tượng thực tế được hầu hết các nhà sản xuất xe tự hành sử dụng. Nghiên cứu dựa trên các bộ dữ liệu công khai được sử dụng bởi các nhà nghiên cứu hàn lâm. Các công ty không cung cấp dữ liệu thực tế, đó là một vấn đề.

Tuy nhiên, những rủi ro được phát hiện bởi nghiên cứu là có thật và đã đến lúc các công ty phải thực hiện một số bước cụ thể để loại bỏ hành vi thiên vị của hệ thống máy tính để làm cho chúng an toàn hơn cho mọi người.

Xem thêm: Mahindra ra mắt siêu xe điện Battista: Tốc độ 0-100 km/h trong 2 giây

This post is also available in: German Tiếng Việt Italian Indonesian

LEAVE A REPLY

Please enter your comment!
Please enter your name here