Đằng sau đội ngũ AI 'chạy bằng cơm' kiểm duyệt nội dung trên Facebook, YouTube, Twitter: Lương 1 USD mỗi giờ, khủng hoảng tâm lý triền miên

Năm 2019, bà Julie Sweet, CEO mới được bổ nhiệm của công ty tư vấn toàn cầu Accenture, tổ chức một cuộc họp với các lãnh đạo cấp cao. Bà có một câu hỏi: Liệu Accenture có nên rút khỏi một công việc mà họ đang thực hiện cho một khách hàng lớn chính là Facebook?

Suốt nhiều năm, những căng thẳng liên tục dâng cao bên trong Accenture liên quan đến một số công việc mà hãng thực hiện thực cho Facebook. Trong ca làm việc 8 tiếng, hàng nghìn nhân viên toàn thời gian và nhân viên thuê ngoài của Accenture thực hiện xem, kiểm tra bài đăng độc hại trên Facebook. Nhiệm vụ của họ là ngăn chặn các nội dung này tràn lan trên mạng xã hội lớn nhất hành tinh.

Một số nhân viên của Accenture cho biết họ bắt đầu bị trầm cảm, lo lắng và hoang tưởng sau khi xem hàng trăm bài đăng độc hại mỗi ca làm việc. Ở Mỹ, một nhân viên đã tham gia vào một vụ kiện tập thể để phản đối điều kiện làm việc này. Trên báo chí, môi trường làm việc của Accenture được liên tưởng đến những điều rùng rợn. Vì vậy, bà Sweet yêu cầu đánh giá để thảo luận về những rủi ro đạo đức, pháp lý và danh tiếng tăng dần.

Tại cuộc họp, bà Sweet và Ellyn Shook, giám đốc nhân sự, đưa ra quan ngại về những tác động tâm lý mà công việc thực hiện cho Facebook để lại. Bên cạnh đó, nó cũng có thể làm ảnh hưởng đến danh tiếng của công ty.

Dù vậy, một số nhân viên đang trực tiếp quản lý Facebook nói rằng những vấn đề nêu ra đều có thể kiểm soát được và Facebook là một khách hàng quá lớn để Accenture bỏ qua. Cuộc họp kết thúc mà không đi đến kết luận nào.

Facebook và Accenture hiếm khi nói về mối quan hệ hợp tác kinh doanh. Dù vậy, mối quan hệ bí mật của hai bên lại đóng vai trò quan trọng đối với nỗ lực loại bỏ các yếu tố độc hại khỏi nền tảng của Facebook.

Trong nhiều năm, Facebook liên tục bị nhòm ngó và chỉ trích vì để những nội dung thù hằn và bạo lực trôi nổi. Mark Zuckerberg, CEO Facebook, nhiều lần cam kết sẽ dọn dẹp Facebook. Ông khẳng định sẽ ứng dụng trí tuệ nhân tạo để loại bỏ các bài đăng độc hại, đồng thời thuê hàng nghìn nhân viên quản lý nội dung để xử lý các vấn đề mà trí tuệ nhân tạo không làm được.

Dù vậy, đằng sau cam kết này, Facebook âm thầm thuê các công ty bên thứ ba để hoàn thành trách nhiệm của mình. Kể từ năm 2012, Facebook đã thuê ít nhất 10 công ty tư vấn hoặc nhân sự để đảm nhận nhiệm vụ lọc tin bài cùng với đó là một số lượng lớn hơn các công ty thầu phụ, theo New York Times.

Trong số này, Accenture là cái tên thường được nói đến nhất bởi hợp đồng Facebook ký với Accenture có thể có giá trị lên tới 500 triệu USD mỗi năm. Accenture đã tuyển dụng hơn một phần ba trong số 15.000 nhân sự mà Facebook nói sẽ tuyển dụng để kiểm tra bài đăng.

Mặc dù con số 500 triệu USD chỉ chiếm một phần nhỏ trong doanh thu năm của Accenture. Với công ty này, Facebook đóng vai trò quan trọng vì nó là cấu nối giữa Accenture và Thung lũng Silicon. Bên trong Accenture, Facebook được gọi là "khách hàng kim cương".

Theo New York Times, hợp đồng giữa Facebook và Accenture đã "tái định nghĩa" những giới hạn truyền thống của một hợp đồng thuê ngoài thông thường. Accenture coi nội dung độc hại trên Facebook là vấn đề của chính mình. Vì thế, Accenture phải tự giải quyết các vấn đề tâm lý mà nhân viên gặp phải khi thực hiện công việc. Accenture đã phải vật lộn với các hoạt động của nhân viên nhằm đòi quyền lợi và mức lương cao hơn.

Khi đối mặt với các vấn đề pháp lý về công việc, Accenture thường giữ yên lặng vì Facebook cho rằng mạng xã hội này hoàn toàn không phải chịu trách nhiệm do các nhân sự thuộc quyền quản lý của Accenture và các công ty thầu phụ.

"Sẽ không có Facebook như ngày hôm nay nếu không có Accenture", ông Cori Crider, người đồng sáng lập công ty luật đại diện cho các nhân viên quản lý nội dung Foxglove, chia sẻ.

Khi được hỏi về điều này, người đại diện của cả Facebook và Accenture đều từ chối đưa ra bình luận. Dù vậy, người phát ngôn của Facebook thừa nhận đây là "một công việc khó khăn, vì thế chúng tôi hợp tác chặt chẽ với đối tác để liên tục đánh giá cách tốt nhất để hỗ trợ đội ngũ".

Phần lớn của hợp tác giữa Facebook và Accenture bắt nguồn từ vấn đề nội dung khoả thân. Năm 2007, hàng triệu người dùng gia nhập Facebook mỗi tháng và rất nhiều người trong số này đăng tải các hình ảnh khoả thân. Năm đó, ông Andrew M. Cuomo, tổng chưởng lý New York, đã yêu cầu Facebook phải gỡ bỏ các hình ảnh khoả thân được người dùng báo cáo trong vòng 24 giờ.

Các nhân viên Facebook liên quan đến vấn đề này nhanh chóng cảm thấy choáng ngợp với khối lượng cộng việc của mình. Bà Sheryl Sandberg, giám đốc vận hành Facebook, yêu cầu đội ngũ tìm cách tự động hoá kiểm soát nội dung.

Facebook cũng bắt đầu tính đến phương án thuê ngoài. Thuê ngoài có chi phí thấp hơn trực tiếp tuyển nhân sự. Bên cạnh đó, phương án này cũng linh hoạt hơn. Bà Sandberg đồng ý với lựa chọn này và yêu cầu các quản lý tầm trung lên kế hoạch chi tiết.

Đến năm 2011, Facebook hợp tác với oDesk, một dịch vụ tuyển dụng lao động tự do đánh giá nội dung. Dù vậy, vào năm 2012, sau khi trang Gawker nói rằng nhiều nhân sự của oDesk chỉ nhận được 1 USD cho mỗi giờ làm việc, Facebook bắt đầu tìm kiếm đối tác khác.

Facebook tìm đến Accenture giữa lúc công ty này muốn tìm kiếm chỗ đứng ở Thung lũng Silicon.

Năm 2010, Accenture có hợp đồng tư vấn kế toán với Facebook. Đến năm 2012, hợp tác giữa 2 công ty mở rộng ra nhiều mảng, bao gồm cả quản lý nội dung, đặc biệt là bên ngoài nước Mỹ.

Cùng năm, Facebook cử nhân viên đến Manila và Warsaw để đào tạo các nhân viên Accenture lọc nội dung. Nhân viên của Accenture được học cách dùng phần mềm của Facebook và hiểu kỹ hướng dẫn nội dung trước khi ra quyết định giữ, hạ nội dung hay chuyển tiếp sang bộ phận cấp cao hơn để đánh giá.

Đến năm 2015, văn phòng của Accenture ở San Francisco Bay Area có một đội ngũ với tên mã Honey Badger (con lửng mật) chỉ để đáp ứng các nhu cầu của Facebook. Accenture cung cấp số lượng nhân sự cho Facebook tăng từ 300 vào năm 2015 lên tới 3.000 vào năm 2016. Con số này bao gồm cả nhân sự toàn thời gian và nhân sự thuê ngoài.

Ngoài Facebook, Accenture cũng nhanh chóng có các hợp đồng quản lý nội dung cho YouTube, Twitter, Pinterest và một số nền tảng khác. Bên cạnh đó, Facebook cũng mở rộng phạm vi hợp tác với Accenture sang các mảng mới như kiểm tra trùng, đúp tài khoản và quản lý tài khoản người nổi tiếng.

Đến năm 2016, trước nhiều báo cáo cho rằng nhiều nội dung trên Facebook tác động đến hoạt động bầu cử tại Mỹ, Accenture đẩy mạnh tuyển dụng nhân viên quản lý nội dung. Accenture nói sẽ tuyển thêm 3.000 người để bổ sung vào đội ngũ 4.500 người hiện có.

"Để xây dựng một cộng đồng an toàn, chúng ta phải phản ứng nhanh", Mark Zuckerberg chia sẻ trong một bài đăng hồi năm 2017.

Một năm sau đó, Facebook tuyển dụng ông Arun Chandra, một cựu nhân sự của HP, trong vai trò phó chủ tịch phụ trách vận hành quy mô để quản lý quan hệ với Accenture và một số công ty khác như Congnizant hay TaskUs.

Quản lý nội dung là một công việc đầy thách thức. Mặc dù 90% nội dung có thể được xử lý bằng AI, các nhân sự con người sẽ phải xử lý các phần việc mà AI không làm được.

Họ cũng nhận được chấm điểm hiệu quả dựa trên số lượng đánh giá chính xác theo chính sách nội dung của Facebook. Nếu tỷ trọng đánh giá sai vượt mốc 5%, họ có thể bị đuổi việc.

Vấn đề nằm ở chỗ chính sách của Facebook cũng thường xuyên thay đổi khiến họ cảm thấy bối rối. Bên cạnh đó, Facebook cũng thường xuyên tinh chỉnh phần mềm với mục đích đẩy nhanh tốc độ xử lý, ví dụ như bổ sung thêm phím tắt. Dù vậy, các thay đổi này cũng không được thông báo đầy đủ. Điều này cũng một phần làm tăng lỗi khi xử lý.

Nhân sự của Accenture cho mảng này ở Mỹ có thể nhận được tối thiểu 50 USD/giờ. Dù vậy, tại một số bang, thu nhập khởi điểm có thể chỉ là 18 USD/giờ.

Bên trong Accenture, nhân viên bắt đầu hoài nghi về những tác động của việc xem quá nhiều nội dung độc hại.

Accenture thuê các chuyên gia tư vấn sức khoẻ tinh thần để xử lý vấn đề. Bà Izabela Dziugiel, từng là một chuyên gia tư vấn làm việc tại Accenture, từng nói với lãnh đạo vào năm 2018 rằng các nhân sự được tuyển chưa chuẩn bị đầy đủ cho công việc này.

"Họ tuyển bất kỳ ai", bà Izabela Dziugiel nói. Bà rời công ty vào năm 2019. Ở Dublin, một nhân viên quản lý nội dung để lại một lá thư tự vẫn vào năm 2018. Người này sau đó được tìm thấy an toàn.

Anh Joshue Sklar, một nhân viên nội dung ở Austin nghỉ việc hồi tháng 4, cho biết anh xem khoảng 500 đến 700 bài đăng mỗi ca làm việc, bao gồm ảnh thi thể người chết vì tai nạn giao thông và động vật bị hành hạ.

"Trong một video có cảnh một kẻ cưỡng hiếp một bé gái", anh Sklar nói. "Điều này thật kinh khủng". Anh nói thêm rằng nếu nhân viên báo cáo vượt cấp và trao đổi trực tiếp với Facebook về vấn đề nội dung, họ có thể bị khiển trách. Điều này khiến phản ứng của Facebook chậm hơn.

Một cựu nhân viên khác có tên Spencer Darr nói trong một vụ kiện hồi tháng 6 rằng công việc yêu cầu anh đưa ra những quyết định không thể tưởng tượng nổi, ví dụ như quyết định xoá video một chú chó bị lột sống da hoặc chỉ đơn giản là đánh dấu video có hình ảnh gây khó chịu. "Công việc quản lý nội dung là công việc bất khả thi", anh chia sẻ.

Năm 2018, Accenture giới thiệu WeCare, một chính sách mà các nhà tư vấn sức khoẻ tinh thần nói rằng đã hạn chế khả năng điều trị nhân viên của họ.

Chức danh của các chuyên gia bị đổi thành "nhà huấn luyện sức khoẻ". Họ được yêu cầu không đưa ra các chẩn đoán hay đánh giá về tâm lý. Thay vào đó, họ đưa ra các hỗ trợ ngắn hạn như đi bộ hay nghe nhạc.

Rất nhiều nhân sự cao cấp của Accenture đã tranh cãi về hợp đồng với Facebook. Năm 2017, ông Pierre Nanterme, CEO Accenture lúc bấy giờ, nghi ngại về tính đạo đức của công việc này đồng thời cho rằng nó có thể không phù hợp với chiến lược dài hạn của công ty. Dù vậy, không có hành động nào được đưa ra. Ông qua đời vì ung thư vào tháng 1/2019.

5 tháng sau đó, bà Sweet nhận lại ghế CEO. Bà nhanh chóng yêu cầu đánh giá lại vấn đề. Sau nhiều cuộc họp, cuối cùng, bà đưa ra một số thay đổi.

Tháng 12/2019, Accenture đưa ra một văn bản pháp lý dài 2 trang nêu rõ rủi ro của công việc. Tháng 10  năm ngoái, Accenture tiến xa thêm một bước khi nhìn nhận mảng quản lý nội dung là một yếu tố rủi ro trong báo cáo thường niên của mình. Accenture thừa nhận nó có thể mang đến những rủi ro trên truyền thông và rắc rối pháp lý.

Accenture hiện hạn chế nhận thêm các khách hàng mới ở mảng này, nguồn tin thân cận nói. Các hợp đồng mới cần ban lãnh đạo cao cấp phê duyệt. Dù vậy, bà Sweet vẫn không thay đổi một thứ: hợp đồng với Facebook. Sau cùng, Facebook vẫn là một khách hàng quá lớn để bỏ qua.