1. Ranh giới chức năng phải rõ hơn khả năng kỹ thuật
Một LLM hiện đại có thể mô phỏng lời khuyên lâm sàng rất trôi chảy — điều này đúng, nhưng nguy hiểm. Bất kỳ trợ lý AI nào phục vụ người dân trong ngành y đều phải khai báo trước phạm vi: giới thiệu chương trình, tra cứu thông tin công khai, hướng dẫn thủ tục — chứ không kê đơn, không chẩn đoán, không thay bác sĩ.
Với Medibot chúng tôi cứng hóa một "regex ranh giới": mọi câu hỏi có từ khóa triệu chứng đều bị chuyển hướng về cơ sở y tế. Đây là lớp bảo vệ tối thiểu, không thay thế đánh giá an toàn nội dung ở tầng mô hình.
2. Nguồn dữ liệu phải kiểm chứng được
Ngành y không chấp nhận câu trả lời "chung chung theo internet". Trợ lý AI cần dựa trên hai loại nguồn: (a) tài liệu chuyên môn do cơ quan có thẩm quyền ban hành và (b) tri thức chương trình đã được đội ngũ nội bộ xác thực. Mỗi câu trả lời nên đi kèm trích dẫn có thể kiểm tra ngược.
Với các hệ thống RAG chúng tôi triển khai, mỗi đoạn context đều gắn siêu dữ liệu về nguồn, phiên bản, ngày ban hành. Nếu không có nguồn khớp, trợ lý phải nói "chưa có dữ liệu để trả lời" thay vì bịa.
3. Không hấp thụ dữ liệu định danh của bệnh nhân
Một sai lầm phổ biến là để người dùng dán số bảo hiểm y tế, căn cước công dân, mã bệnh án vào ô chat. Trợ lý cần từ chối ngay từ đầu vào, cảnh báo rủi ro, và không lưu vào log truy vấn. Tối thiểu phải có bộ lọc PII ở tầng ingest, thay vì tin vào chính sách người dùng.
Không có ranh giới an toàn nào ở đầu ra bù được cho một cửa nhập PII mở.
4. Con người vẫn quyết định
Trong mọi kịch bản triển khai — sàng lọc cộng đồng, hỗ trợ điều dưỡng, tra cứu chương trình — kết quả AI đưa ra phải luôn được coi là gợi ý, và luôn có người có thẩm quyền chuyên môn duyệt trước khi hành động. Điều này tưởng hiển nhiên nhưng thường bị bỏ qua khi áp lực triển khai lớn.
Tôi luôn nhắc anh em kỹ thuật: nếu một tính năng AI khiến bác sĩ hoặc điều dưỡng có thể "click cho xong", chúng ta đã thiết kế sai. UI của các sản phẩm chúng tôi đều bắt buộc thao tác xác nhận chuyên môn cho mọi hành động ảnh hưởng đến người bệnh.
5. Đo lường được, và công khai kết quả đo
Không có gì phá vỡ lòng tin với công chúng nhanh bằng một trợ lý y tế "tự nhận" hiệu quả mà không có dữ liệu. Với mỗi chương trình chúng tôi vận hành, đều có bộ chỉ số công khai: tỉ lệ câu hỏi ngoài phạm vi, tỉ lệ chuyển hướng thành công về cơ sở y tế, tỉ lệ trả lời có nguồn, tỉ lệ người dùng gắn cờ "sai".
Đây là những chỉ số cần được các cơ quan quản lý yêu cầu công bố khi cấp phép cho một sản phẩm AI y tế hoạt động ở quy mô cộng đồng.
Kết
Ngành y không cần AI "biết nhiều nhất", mà cần AI "biết dừng đúng lúc". Năm nguyên tắc trên là bộ khung tối thiểu tôi đề xuất cho bất kỳ tổ chức nào định đưa trợ lý AI vào phục vụ người bệnh Việt Nam trong 2026–2027.
Nếu anh chị đang triển khai một hệ thống tương tự và muốn trao đổi thêm, mời liên hệ qua trang liên hệ hoặc email ttk@thaythuoctre.vn.