Cảm biến an toàn AI trên xe tự hành kém chính xác với người da màu và trẻ em

2025-04-01 16:29:11

Cỡ chữ

Các hệ thống an toàn tích hợp AI đang trang bị phổ biến trên các phương tiện tự hành được cho là kém hiệu quả với người da màu và trẻ em so với người da trắng. Sự bùng nổ của trí tuệ nhân tạo (AI) mang tới một xu hướng rõ ràng: Sự thiên vị trong đào tạo các hệ thống máy học dẫn đến hành vi phân biệt đối xử trong thế giới thực. Một nghiên cứu mới đây của nhóm các nhà khoa học tại Anh và Trung Quốc cho thấy, phần mềm phát hiện người đi bộ trang bị trên các phương tiện tự hành - vốn đang được nhiều nhà sản xuất ô tô sử dụng, có thể kém hiệu quả hơn khi đối tượng là người da màu hoặc trẻ em, dẫn đến những người này có thể gặp rủi ro nhiều hơn khi tham gia giao thông. AI trên xe tự hành có xu hướng kém hiệu quả với đối tượng da màu và trẻ em, có thể dẫn đến những tai nạn nghiêm trọng. Mặc dù giới tính chỉ có sự khác biệt nhỏ về độ chính xác nhưng các nhà nghiên cứu nhận thấy hệ thống AI nhận diện kém chính xác hơn trong trường hợp người đi bộ có tone da màu tối. “Các cá nhân thiểu số từng bị từ chối cung cấp nhiều dịch vụ quan trọng, giờ đây nhóm này lại phải đối mặt với những rủi ro tai nạn nghiêm trọng”, Jie Zhang, nhà khoa học máy tính tại King's College London và là thành viên của nhóm nghiên cứu, cho biết. Cụ thể, báo cáo ghi nhận hệ thống có khả năng phát hiện người lớn cao hơn 19,67% so với trẻ em, và thấp hơn 7,52% đối với những người có màu da tối hơn. “Nhìn chung, nghiên cứu này làm sáng tỏ các vấn đề về tính công bằng mà hệ thống phát hiện người đi bộ hiện tại phải đối mặt, nhấn mạnh tầm quan trọng của việc giải quyết các thành kiến liên quan đến tuổi tác và màu da”, trích báo cáo của nhóm nghiên cứu. “Những hiểu biết sâu sắc thu được có thể mở đường cho các hệ thống lái xe tự động công bằng và không thiên vị hơn trong tương lai”. Theo thành viên của nhóm nghiên cứu, báo cáo của họ không sử dụng chính xác phần mềm mà các công ty như Tesla cài đặt trên xe, do đây là bí mật thương mại, thay vào đó, nghiên cứu dựa trên các AI nguồn mở tương tự được các doanh nghiệp sử dụng. “Điều cần thiết là các nhà hoạch định chính sách phải ban hành luật và quy ??ịnh để bảo vệ quyền của tất cả các cá nhân và giải quyết những mối lo ngại này một cách thích hợp”. Nhóm nghiên cứu kêu gọi các nhà lập pháp điều chỉnh phần mềm xe tự lái để ngăn chặn sự thiên vị trong hệ thống phát hiện của họ. (Theo Insider) Bốn mô hình AI hàng đầu tranh tài ‘bịa chuyện’ Nghiên cứu mới nhất cho thấy các mô hình AI hàng đầu của Meta, OpenAI, Cohere và Anthropic đều tạo ra thông tin sai lệch. Xiaomi đưa AI hỗ trợ giọng nói lên thiết bị di động Xiaomi đang phát triển và thử nghiệm mô hình trí tuệ nhân tạo nhỏ gọn trên các thiết bị di động trong cuộc đua phát triển công nghệ đằng sau những công cụ như ChatGPT. Đưa AI tạo sinh vào ô tô thông minh AI tạo sinh được đưa vào ô tô thông minh bằng cách tích hợp trong hệ thống điều khiển giọng nói và sẽ giúp cá nhân hóa trải nghiệm lái xe.

Nguồn bài viết : TK đuôi