Trí tuệ nhân tạo có thể giúp con người xử lý thông tin nhanh hơn, giảm bớt khối lượng công việc và hỗ trợ đưa ra những gợi ý ban đầu. Tuy nhiên, AI không có khả năng thấu hiểu đầy đủ hoàn cảnh, cảm xúc, những lý do đặc biệt hay hệ quả lâu dài của một quyết định đối với mỗi con người. Vì vậy, khi AI được sử dụng trong giáo dục, y tế, tuyển dụng hoặc các lĩnh vực liên quan trực tiếp đến quyền và lợi ích của cá nhân, kết quả do hệ thống đưa ra chỉ nên là cơ sở tham khảo; con người vẫn phải kiểm tra, đánh giá và chịu trách nhiệm về quyết định cuối cùng.

Trường trung học phổ thông Thành Công nằm ở một quận đông dân của thành phố. Nhiều năm nay, vào cuối mỗi học kỳ, nhà trường đều tổ chức xét học bổng “Vượt khó học tốt” cho những học sinh có kết quả học tập tốt, có ý thức rèn luyện và đang gặp khó khăn trong cuộc sống.

Trước đây, việc xét học bổng được thực hiện khá kỹ lưỡng. Giáo viên chủ nhiệm lập danh sách, xác nhận hoàn cảnh của từng học sinh, sau đó nhà trường thành lập hội đồng xét duyệt. Có những bộ hồ sơ dày, có những trường hợp giáo viên phải đến tận nhà tìm hiểu. Công việc mất nhiều thời gian, nhưng mọi người đều hiểu rằng mỗi suất học bổng không chỉ là một khoản hỗ trợ vật chất mà còn là sự động viên dành cho những học sinh đang cố gắng vượt qua hoàn cảnh.

Năm học ấy, nhà trường quyết định thử nghiệm một phần mềm trí tuệ nhân tạo để hỗ trợ sàng lọc hồ sơ. Phần mềm được giới thiệu là có thể tự động tổng hợp điểm số, số buổi nghỉ học, kết quả rèn luyện, hoàn cảnh gia đình và mức độ tham gia hoạt động của học sinh. Sau khi xử lý dữ liệu, hệ thống sẽ đưa ra danh sách những em được đề xuất nhận học bổng.

Trong cuộc họp đầu năm, cô Thủy, cán bộ phụ trách công tác học sinh, là người hào hứng nhất với phần mềm mới.

“Trước đây, mỗi đợt xét học bổng, chúng ta phải đọc hàng trăm hồ sơ, rất dễ sót thông tin hoặc bị ảnh hưởng bởi cảm tính,” cô nói. “Bây giờ hệ thống có thể tính toán theo cùng một tiêu chí, vừa nhanh vừa khách quan.”

Nhiều giáo viên cũng đồng tình. Ai cũng mong công việc hành chính bớt nặng nề để có thêm thời gian cho chuyên môn và học sinh.

Đến gần cuối học kỳ, cô Thủy nhập dữ liệu từ các lớp vào hệ thống. Chỉ sau một buổi, phần mềm đã trả về danh sách đề xuất. Những học sinh có điểm số tốt, hạnh kiểm tốt, hoàn cảnh khó khăn và số ngày nghỉ học trong giới hạn được đưa vào nhóm đủ điều kiện. Những trường hợp không đạt một trong các tiêu chí bị hệ thống loại ra.

Cô Thủy xem lướt qua danh sách, thấy các con số được sắp xếp rõ ràng, các mức đánh giá cũng được hiển thị bằng màu sắc rất dễ theo dõi. Cô in ngay danh sách để chuẩn bị trình Ban giám hiệu.

Trong nhóm học sinh không được đề xuất nhận học bổng có tên Nam, học sinh lớp 11A3.

Nam là một cậu học trò trầm tính, học khá giỏi, nhiều năm liền đạt danh hiệu học sinh tốt. Em không phải người nổi bật trong các hoạt động phong trào, nhưng luôn chăm chỉ, có trách nhiệm và được thầy cô tin tưởng. Gia đình Nam sống trong một căn nhà thuê nhỏ ở ngoại thành. Cha em làm công trình xa nhà, công việc bấp bênh. Mẹ em bán hàng ở chợ, nhưng từ đầu học kỳ đã phải điều trị bệnh trong thời gian dài.

Trong hai tháng mẹ nằm viện, Nam phải nghỉ một số buổi để đưa mẹ đi khám, làm thủ tục nhập viện và trông em gái nhỏ khi cha chưa về kịp. Mỗi lần nghỉ, Nam đều viết đơn xin phép. Cô Hạnh, giáo viên chủ nhiệm, biết rõ hoàn cảnh nên đã xác nhận đầy đủ. Khi trở lại trường, Nam cố gắng học bù, không để kết quả sa sút.

Ngày danh sách học bổng được thông báo sơ bộ, Nam không thấy tên mình. Ban đầu, em nghĩ có lẽ hồ sơ chưa được cập nhật. Nhưng khi hỏi cô Thủy, em được biết hệ thống đánh giá em không đủ điều kiện vì số buổi nghỉ học trong học kỳ cao hơn mức quy định.

Nam đứng lặng trước bàn làm việc của cô.

“Thưa cô, những buổi em nghỉ đều có đơn xin phép. Mẹ em điều trị bệnh, cha em đi làm xa nên em phải đưa mẹ đi khám và chăm em gái. Cô Hạnh cũng biết việc này.”

Cô Thủy mở phần mềm trên máy tính. Trên màn hình, tên Nam nằm trong danh sách bị loại. Bên cạnh là dòng ghi chú ngắn: Số ngày nghỉ học vượt ngưỡng tiêu chí xét học bổng.

Cô Thủy nói:

“Cô hiểu hoàn cảnh của em, nhưng hệ thống đã tính theo dữ liệu được nhập vào. Nếu phần mềm đánh giá không đạt thì cô không thể tự ý thay đổi danh sách. Mọi trường hợp đều phải theo tiêu chí chung để bảo đảm công bằng.”

Nam nhìn màn hình máy tính. Em không cãi lại. Một lúc sau, em hỏi nhỏ:

“Nếu máy chỉ thấy em nghỉ học, mà không biết vì sao em phải nghỉ, thì máy có hiểu được hoàn cảnh của em không, cô?”

Câu hỏi khiến cô Thủy chững lại. Nhưng ngày trao học bổng đã gần, danh sách cũng sắp phải trình lên Ban giám hiệu. Cô chỉ nói:

“Cô sẽ ghi nhận ý kiến của em. Nhưng trước mắt, mọi việc vẫn phải theo danh sách hệ thống đã đề xuất.”

Nam cảm ơn cô rồi đi ra. Trên hành lang, em gặp cô Hạnh. Thấy học trò của mình buồn bã, cô hỏi chuyện. Nam kể lại toàn bộ sự việc, cố nói bình tĩnh nhưng giọng vẫn nghẹn lại khi nhắc đến mẹ.

Cô Hạnh không trách Nam, cũng không vội hứa điều gì. Cô chỉ nói:

“Em về lớp đi. Cô sẽ xem lại hồ sơ.”

Chiều hôm đó, cô Hạnh mở tủ hồ sơ, lấy ra đơn xin nghỉ học của Nam, giấy xác nhận điều trị của mẹ em và những ghi chú cô đã lưu trong sổ chủ nhiệm. Cô nhớ rõ quãng thời gian Nam vừa học vừa lo việc nhà. Có hôm em đến lớp muộn vì phải đưa em gái đến trường. Có hôm em ngồi trong lớp mà mắt đỏ hoe vì vừa từ bệnh viện về. Nhưng Nam chưa từng xin giảm bài, chưa từng đổ lỗi cho hoàn cảnh để bỏ bê việc học.

Cô Hạnh mang toàn bộ hồ sơ đến gặp Hiệu trưởng.

“Thưa thầy, em Nam bị loại khỏi danh sách học bổng vì phần mềm ghi nhận số buổi nghỉ học vượt mức. Nhưng nếu chỉ nhìn vào con số đó thì không phản ánh đúng hoàn cảnh của em.”

Hiệu trưởng xem hồ sơ, rồi hỏi:

“Cô Thủy đã kiểm tra lại trường hợp này chưa?”

“Cô ấy tin rằng hệ thống đã xử lý khách quan,” cô Hạnh đáp. “Nhưng AI chỉ tổng hợp dữ liệu theo tiêu chí có sẵn. Nó không thể tự hiểu rằng một học sinh nghỉ học để đưa mẹ đi điều trị bệnh lại khác với một học sinh tự ý bỏ học. Nếu nhà trường giao luôn quyết định cho máy, chúng ta có thể làm thiệt thòi chính những em đang cần được hỗ trợ.”

Hiệu trưởng im lặng. Ông nhìn những tờ đơn xin nghỉ học có chữ ký xác nhận của giáo viên bộ môn, rồi nhìn danh sách do phần mềm đề xuất.

Ông nói:

“Công nghệ được đưa vào để hỗ trợ công việc, không phải để chúng ta bỏ qua trách nhiệm xem xét của mình.”

Ngay chiều hôm đó, Ban giám hiệu tổ chức cuộc họp khẩn với cô Thủy, cô Hạnh và đại diện các bộ phận liên quan. Khi nghe cô Hạnh trình bày, cô Thủy mới nhận ra mình đã quá tin vào kết quả hiển thị trên màn hình.

Cô nói:

“Tôi nghĩ dùng hệ thống sẽ giúp loại bỏ sự thiên vị. Tôi sợ nếu tự điều chỉnh từng trường hợp thì sẽ bị cho là cảm tính.”

Hiệu trưởng đáp:

“Khách quan không có nghĩa là chỉ nhìn vào những dữ liệu máy có thể đếm được. Công bằng còn là xem xét đầy đủ hoàn cảnh, căn cứ và những tình huống đặc biệt. Nếu hệ thống không nhận diện được điều đó, người sử dụng phải nhận diện.”

Một thành viên trong hội đồng xét học bổng nói thêm:

“Phần mềm có thể cho chúng ta biết ai nghỉ bao nhiêu buổi, điểm trung bình là bao nhiêu, có tham gia hoạt động nào. Nhưng nó không thể tự xác minh lý do nghỉ học, không thể hiểu áp lực của một học sinh phải chăm mẹ bệnh, cũng không thể chịu trách nhiệm khi một quyết định sai làm ảnh hưởng đến cơ hội của em.”

Cuộc họp đi đến thống nhất tạm dừng phê duyệt danh sách. Nhà trường thành lập tổ rà soát gồm Ban giám hiệu, giáo viên chủ nhiệm và cán bộ phụ trách công tác học sinh. Tất cả các trường hợp bị loại hoặc được đề xuất nhận học bổng đều được đối chiếu lại với hồ sơ thực tế, đặc biệt là những trường hợp có hoàn cảnh đặc biệt.

Khi đến lượt Nam, tổ rà soát xác định các buổi nghỉ học của em đều có lý do chính đáng, được xác nhận đầy đủ và không làm ảnh hưởng đến kết quả học tập, rèn luyện. Không những vậy, hoàn cảnh gia đình của Nam thuộc diện cần được quan tâm, hỗ trợ.

Nam được bổ sung vào danh sách nhận học bổng.

Ngày trao học bổng, cô Thủy chủ động gọi Nam lên phòng làm việc trước giờ lễ. Cô đặt trước mặt em quyết định đã được điều chỉnh.

“Cô xin lỗi em,” cô nói. “Cô đã nghĩ máy tính sẽ công bằng hơn con người, nhưng cô quên rằng máy chỉ biết những gì người ta đưa vào. Nó không thể thay thế việc lắng nghe, xác minh và chịu trách nhiệm.”

Nam cầm tờ quyết định, không nói gì ngay. Một lúc sau, em đáp:

“Em không buồn vì không được học bổng bằng việc em nghĩ hoàn cảnh của mình chỉ còn là một dòng số liệu trên máy. Em cảm ơn cô vì nhà trường đã xem lại.”

Lời nói của Nam khiến cô Thủy thấy nhẹ lòng nhưng cũng day dứt. Cô hiểu rằng chỉ cần cô dành thêm vài phút kiểm tra hồ sơ, một học sinh đã không phải đứng trước cảm giác bị bỏ qua như vậy.

Sau sự việc, Trường trung học phổ thông Thành Công ban hành quy trình mới về việc sử dụng phần mềm AI trong công tác quản lý học sinh. Theo đó, mọi kết quả do hệ thống đề xuất chỉ có giá trị tham khảo. Trước khi quyết định những vấn đề ảnh hưởng trực tiếp đến quyền lợi, cơ hội học tập, việc khen thưởng, hỗ trợ hay xử lý kỷ luật học sinh, người có thẩm quyền phải kiểm tra lại dữ liệu, đối chiếu hồ sơ, tạo điều kiện để học sinh được giải trình khi cần thiết và chịu trách nhiệm về quyết định cuối cùng.

Nhà trường vẫn tiếp tục sử dụng phần mềm. Nhờ đó, việc tổng hợp thông tin nhanh hơn, những trường hợp cần lưu ý cũng được phát hiện sớm hơn. Nhưng từ đó, không ai còn xem danh sách do máy đưa ra là câu trả lời cuối cùng.

Trong buổi họp giáo viên cuối năm, Hiệu trưởng nói:

“Công nghệ giúp chúng ta nhìn thấy nhiều dữ liệu hơn. Nhưng giáo dục không chỉ là xử lý dữ liệu. Giáo dục còn là nhìn thấy con người phía sau mỗi dữ liệu ấy.”

Cô Hạnh nhìn ra sân trường, nơi Nam đang cùng các bạn chuẩn bị cho buổi tổng kết. Cậu học trò vẫn lặng lẽ như thường ngày, nhưng trên tay em là suất học bổng đã giúp gia đình bớt đi một phần khó khăn.

Cô hiểu rằng một quyết định đúng không phải vì nó được máy tính đưa ra nhanh nhất, mà vì người đưa ra quyết định đã đủ trách nhiệm để lắng nghe, kiểm tra và không bỏ quên hoàn cảnh của bất kỳ ai.