Chúng tôi đang thực hiện lại nghiên cứu về sọ não bằng AI

Cứ sau vài tháng, một học giả có trình độ học vấn cao khác lại hỏi: Điều gì sẽ xảy ra nếu tôi thử nghiên cứu khoa học chủng tộc thế kỷ 18 nhưng với AI?

Mục mới nhất trong danh mục nghiên cứu về não tướng học AI đến từ một nhóm giáo sư kinh tế. Họ cho biết họ đã phát triển một phương pháp phân tích thuật toán một bức ảnh khuôn mặt của một người để tính toán tính cách của họ và dự đoán kết quả học tập và nghề nghiệp của họ.

Những đột phá học thuật gần đây khác vào lĩnh vực não tướng học AI—như các thuật toán nhằm mục đích dự đoán giới tính của một người hoặc khả năng họ sẽ phạm tội dựa trên đặc điểm khuôn mặt của họ — đã bị chỉ trích và vạch trần rộng rãi. Các cuộc điều tra cũng chỉ ra rằng các công cụ AI thương mại tuyên bố đo lường đặc điểm tính cách là cực kỳ không đáng tin cậy.

Tuy nhiên, Marius Guenzel và Shimon Kogan, thuộc Trường Wharton của Đại học Pennsylvania; Marina Niessner, thuộc Đại học Indiana; và Kelly Shue, từ Đại học Yale đã quyết định rằng ảnh chụp nhanh khuôn mặt của một người có thể quyết định tính cách của họ. Theo bài báo của họ, họ đã nhận được tài trợ cho nghiên cứu của mình từ một số quỹ nghiên cứu tài chính và AI tại Wharton và đã trình bày những phát hiện của mình tại các hội nghị và trường đại học công nghệ tài chính trên toàn thế giới.

Các tác giả đã thu thập ảnh hồ sơ LinkedIn của 96.000 sinh viên tốt nghiệp chương trình MBA và chạy chúng thông qua thuật toán phân tích khuôn mặt được cho là đo lường mức độ người đó sẽ đạt điểm trong bài kiểm tra tính cách Big Five, đánh giá mọi người về sự cởi mở, tận tâm, hướng ngoại, dễ chịu và chủ nghĩa thần kinh.

Sau đó, họ đo lường mối tương quan giữa những điểm số tính cách được trích xuất này và uy tín của chương trình MBA mà họ đã hoàn thành cũng như mức thù lao cuối cùng của họ trong lực lượng lao động (theo ước tính của một mô hình độc quyền phân tích dữ liệu LinkedIn).

Dựa trên phân tích này, các tác giả kết luận rằng tính cách đóng “vai trò quan trọng” trong việc dự đoán liệu một người có theo học tại trường có chương trình MBA được xếp hạng cao hay không và họ sẽ kiếm được bao nhiêu trong công việc đầu tiên sau khi tốt nghiệp. Ví dụ, những người đàn ông nằm trong top 20% những người có tính cách “được mong muốn” theo học các chương trình MBA xếp hạng cao hơn 7,3% và có thu nhập ước tính cao hơn 8,4% so với những người đàn ông có tính cách nằm trong 20% ​​mức độ đáng mơ ước thấp nhất. Khi các nhà nghiên cứu kiểm soát các yếu tố như chủng tộc, tuổi tác và sức hấp dẫn của một người (tất cả đều được suy ra), tác động trở nên nhỏ hơn.

Đáng chú ý, các tác giả dường như không thực hiện bất kỳ nỗ lực độc lập nào để chứng minh rằng tính cách Big Five cho điểm mà thuật toán của họ trích xuất từ ​​​​các bức ảnh chụp chân dung trên LinkedIn là chính xác. Không ai trong số những người có ảnh hồ sơ được phân tích thực hiện bài kiểm tra tính cách Big Five để xác nhận kết luận của thuật toán.

Các giáo sư viết rằng những phát hiện của họ nêu bật “vai trò quan trọng của các kỹ năng phi nhận thức trong việc định hình kết quả nghề nghiệp” và việc sử dụng AI để phân tích khuôn mặt, thay vì thực sự thực hiện các bài kiểm tra tính cách cho mọi người, “trình bày những con đường mới cho nghiên cứu học thuật… (và mời gọi) khám phá sâu hơn về những cân nhắc về mặt đạo đức, thực tế và chiến lược vốn có trong việc tận dụng các công nghệ đó.”

Đồng thời, họ viết rằng kỹ thuật mà họ vừa trình diễn không nên được sử dụng để sàng lọc thị trường lao động và rằng “việc trích xuất tính cách từ khuôn mặt thể hiện sự phân biệt đối xử về mặt thống kê ở dạng cơ bản nhất”.

Nói cách khác, các nhà khoa học đã dừng lại để suy nghĩ xem liệu họ có nên làm như vậy hay không, kết luận rằng đó là sự phân biệt đối xử và sau đó vẫn làm như vậy.