Nội dung bài viết
Vụ kiện: “Cảnh sát để một hệ thống AI dễ mắc lỗi tham gia điều tra.” Một người đàn ông kiện cảnh sát Florida cáo buộc rằng cảnh sát đã dựa vào kết quả nhận dạng khuôn mặt bị lỗi và che giấu bằng chứng bào chữa khi họ bắt giữ anh ta với tội danh cố gắng dụ dỗ một đứa trẻ vào tháng 8 năm 2024.
Nguyên đơn, Robert Dillon, đã bị bắt sau khi hệ thống nhận dạng khuôn mặt gắn cờ anh ta là 93% trùng khớp với một nghi phạm được quay bởi camera giám sát của McDonald's.
“Vụ việc này nói về những gì xảy ra khi cảnh sát để một hệ thống trí tuệ nhân tạo dễ mắc lỗi tham gia điều tra,” đơn kiện được đệ trình hôm nay cho biết.
"Thuật toán nhận dạng khuôn mặt đã gắn cờ Robert Dillon là người đàn ông đã cố gắng dụ dỗ hoặc lôi kéo một đứa trẻ dưới 12 tuổi tại cửa hàng McDonald's ở Jacksonville Beach. Thuật toán này sai.
Ông Dillon, một cư dân 52 tuổi ở Fort Myers, chưa bao giờ đặt chân đến Jacksonville Beach. Nhưng thay vì kiểm tra câu trả lời của máy dựa trên bằng chứng có thể giúp ông trắng án, các cảnh sát đã xây dựng một vụ án để xác nhận điều đó.
Ông Dillon đã bị bắt và bị truy tố vì một trong những tội ác mang tính bêu xấu nhất mà một người có thể làm được mặt.” Dillon sống cách bãi biển Jacksonville hơn 300 dặm và cảnh sát tìm kiếm chấy rận Đơn kiện cho biết cơ sở dữ liệu về máy đọc đĩa của nse không tìm thấy bằng chứng nào cho thấy anh ta có mặt trong khu vực khi tội ác được cho là xảy ra.
Đơn kiện cho biết Dillon bị gắn cờ là nghi phạm dựa trên một hình ảnh chất lượng thấp, cụ thể là bức ảnh chụp màn hình máy tính của McDonald's đang hiển thị đoạn phim giám sát. Vụ kiện đã được đệ trình hôm nay tại Tòa án Quận Hoa Kỳ cho Quận Trung của Florida.
Các bị cáo là Thành phố Jacksonville Beach, Hạ sĩ Cảnh sát Bãi biển Jacksonville Scott O'Connell, Cảnh sát trưởng Jacksonville T.K. Waters, Cảnh sát trưởng Quận Pinellas Bob Gualtieri và Trung sĩ James Walters của Văn phòng Cảnh sát trưởng Jacksonville.
Vụ kiện cho biết kết quả nhận dạng khuôn mặt sai đến từ Hệ thống kiểm tra và so sánh phân tích khuôn mặt (FACES), “cơ sở dữ liệu nhận dạng khuôn mặt tập trung do Văn phòng cảnh sát trưởng hạt Pinellas duy trì”.
Vụ kiện cho biết Văn phòng Cảnh sát trưởng Jacksonville có quyền truy cập vào hệ thống và sử dụng nó để tiến hành tìm kiếm chính họ và “các cơ quan đối tác, bao gồm cả Cảnh sát Jacksonville Beach”.
Vụ kiện cho biết Walters chịu trách nhiệm tiến hành hoặc giám sát những cuộc tìm kiếm đó và truyền kết quả cho các cơ quan khác. Việc truy tố Di llon đã chờ xử lý hơn hai tháng trước khi “Văn phòng Luật sư Tiểu bang cuối cùng hủy bỏ mọi cáo buộc,” vụ kiện cho biết.
Với cáo buộc rằng Dillon đã bị truy tố một cách ác ý, vụ kiện yêu cầu bồi thường thiệt hại tài chính và thay đổi cách văn phòng cảnh sát và cảnh sát trưởng sử dụng công nghệ nhận dạng khuôn mặt. Dillon được đại diện bởi Liên minh Tự do Dân sự Hoa Kỳ và công ty luật Hoguet Newman Regal & Kenney.
ACLU cho biết: “Cảnh sát đã dựa vào kết quả không chính xác từ công nghệ nhận dạng khuôn mặt để ra lệnh bắt giữ, đồng thời che giấu bằng chứng cho thấy anh ta không thể phạm tội mà anh ta đang bị buộc tội”.
“Anh ấy là một trong 15 người được biết đã gặp phải chuyện này ở Hoa Kỳ.” Vụ kiện nói rằng "Dillon đã bị bắt tại nhà trước mặt vợ" và "bị buộc tội cố gắng dụ dỗ một đứa trẻ, một tội danh mang lại sự kỳ thị xã hội tàn khốc và hủy hoại danh tiếng vĩnh viễn.
Anh ta bị giam qua đêm, buộc phải vay tiền và cầm cố quyền sở hữu chiếc xe tải của mình để bảo lãnh, bị truy tố hình sự nhiều tháng và được dán nhãn công khai bằng một bức ảnh chụp chân dung vẫn có thể truy cập được trực tuyến, rất lâu sau khi các cáo buộc được bãi bỏ." Việc bắt giữ được thực hiện bởi Lee C Văn phòng Cảnh sát trưởng quận và được ghi lại bằng camera gắn trên người của một phó cảnh sát.
Vợ của Dillon nói với cảnh sát rằng chồng cô chưa bao giờ đến Jacksonville Beach, và Dillon nói với cảnh sát rằng anh ta đã không rời Fort Myers trong hai năm, vụ kiện cho biết.
Đơn kiện cho biết ngay trước nửa đêm ngày 2 tháng 11 năm 2023, Cảnh sát Jacksonville Beach đã trả lời báo cáo về một người đàn ông đang cố gắng dụ dỗ hoặc lôi kéo trẻ vị thành niên vào cửa hàng McDonald's.
Một cô gái dưới 12 tuổi khai với cảnh sát "rằng một người đàn ông đã nhiều lần hỏi cô có muốn rời nhà hàng với anh ta không. Cô nói không.
Nghi phạm đến gần cô lần thứ hai và hỏi: 'Cô có chắc không?'. Nạn nhân gọi cho mẹ cô, và nghi phạm rời đi." Cha mẹ nạn nhân ở ngay cạnh khách sạn.
Vụ kiện cho biết O'Connell có quyền truy cập vào thông tin tài liệu và có tính giải thích mà anh ta không tiết lộ trong bản khai có tuyên thệ dùng để xin lệnh bắt giữ từ thẩm phán.
Ví dụ: "O'Connell đã yêu cầu khám xét thiết bị đọc biển số xe tự động cho hai chiếc xe của ông Dillon trong khoảng thời gian từ ngày 1 tháng 11 đến ngày 3 tháng 11 năm 2023. Cuộc khám xét xác nhận rằng không có chiếc xe nào được phát hiện ở bất kỳ đâu tại Quận Duval trong khoảng thời gian đó.
Ông ấy đã bỏ qua điều này khỏi lệnh bắt giữ," đơn kiện cho biết. t nói.
O'Connell đã gọi cho Dillon nhiều tháng trước khi nhận được lệnh. Đơn kiện cho biết Dillon "phủ nhận mọi liên quan, nói rằng anh ta chưa bao giờ đến Bãi biển Jacksonville và mô tả một vết sẹo đặc biệt từ chân tóc đến mũi.
O'Connell đã bỏ qua hoàn toàn lời kêu gọi này và những lời bào chữa của ông Dillon".
Bản khai cũng không tiết lộ rằng “kết quả nhận dạng khuôn mặt không thể cấu thành nhận dạng tích cực, vốn không đáng tin cậy và không phải là nguyên nhân có thể xảy ra theo chính sách của Jacksonville Beach PD,” vụ kiện cho biết.
Theo bản khai của O'Connell, người quản lý của McDonald's đã cung cấp "mô tả nghi phạm tương tự như nạn nhân", tạo ấn tượng rằng cô ấy đã chứng kiến tội ác, theo vụ kiện. Đơn kiện cho biết: “Trên thực tế, cô ấy không làm vậy vì bận rộn với nhiệm vụ công việc của mình”.
O'Connell không chỉ thất bại trong việc điều tra.
Thay vào đó, anh ta khẳng định chọn không theo đuổi các con đường điều tra sẵn có có thể xác nhận hoặc loại trừ ông Dillon, bao gồm: hồ sơ đặt hàng trên thiết bị di động, dữ liệu thanh toán, hồ sơ tài khoản ứng dụng McDonald's từ đêm xảy ra vụ việc, đoạn phim giám sát cũ hơn cho thấy những lần ghé thăm trước đó của “khách hàng thường xuyên”, so sánh các đặc điểm ngoại hình của ông Dillon (bao gồm cả vết sẹo của ông) với đoạn phim giám sát, hồ sơ vị trí điện thoại di động, các bức ảnh có dấu thời gian và hồ sơ du lịch hoặc tài chính.
Đơn kiện cho biết người đàn ông trong đoạn phim giám sát dường như đã đặt hàng trước, có thể thực hiện trực tuyến hoặc bằng ứng dụng di động, đồng thời cho biết thêm rằng cảnh sát không yêu cầu hồ sơ đặt hàng trên thiết bị di động hoặc thanh toán và dữ liệu tài khoản từ McDonald's.
Vụ kiện có lỗi với Cảnh sát Jacksonville Beach vì đã thuê và đưa O'Connell vào một vụ án nhạy cảm bất chấp lịch sử pháp lý của chính anh ta. “O’Connell là một sĩ quan có tiền sử hay thay đổi và khả năng phán đoán kém, trước đây đã bị Văn phòng Cảnh sát trưởng Quận St.
Johns cho thôi việc vì đe dọa ‘cho nổ tung’ cơ quan, sau đó được phục hồi chức vụ, sau đó bị bắt vì tội bạo hành gia đình trước khi từ chức vì sức nặng của những cáo buộc đó,” đơn kiện cho biết.
“Dù sao thì Sở cảnh sát Jacksonville Beach vẫn thuê anh ta, giao anh ta làm điều tra viên chính trong một vụ án dụ dỗ trẻ em nhạy cảm, và sau đó thăng cấp anh ta lên hạ sĩ sau khi cuộc điều tra của anh ta dẫn đến việc bắt giữ và truy tố oan trái một người đàn ông vô tội.” FACES chứa hơn 38,5 triệu hình ảnh, chẳng hạn như ảnh chụp cốc và giấy phép lái xe.
otos và ít nhất 196 cơ quan thực thi pháp luật đã có quyền truy cập vào FACES kể từ năm 2022, vụ kiện cho biết. Khuôn mặt của Dillon được cho là giống tới 93% với ảnh của nghi phạm trong đoạn phim giám sát của nhà hàng McDonald's.
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.