Chủ Nhật, 11/4/2021 Cấu trúc Cổng Đăng nhập
Tin hoạt động SởTin trong tỉnhTin trong nướcTin thế giớiTin tổng hợpSở hữu trí tuệHoạt động KH&CN cơ sởPhổ biến pháp luậtPhòng, chống dịch bệnh COVID-19Tiêu chuẩn - Đo lường - Chất lượng
TIN TỨC - SỰ KIỆN: Tin thế giới
Cập nhật: Thứ Tư, ngày 25/11/2020

Công cụ mã nguồn mở kiểm tra rò rỉ dữ liệu từ các hệ thống AI
Nhiều ứng dụng trên điện thoại thông minh, chẳng hạn như chương trình chuyển lời nói thành văn bản và trợ lý Google, vận hành nhờ nền tảng trí tuệ nhân tạo (AI).
Giáo sư Reza Shokri và nhóm của ông đã mất ba năm để phát triển công cụ đo quyền riêng tư của Máy học.
Các công ty cũng dùng AI để cải thiện chiến lược tiếp thị, giới thiệu sản phẩm và dịch vụ cho người dùng, hoặc thậm chí bệnh viện cũng sử dụng AI để đưa ra dự đoán về những rủi ro sức khỏe có thể xảy ra cho bệnh nhân.
 
 
Để các hệ thống AI có thể cung cấp thông tin chi tiết như vậy, chúng ta phải đào tạo AI bằng các dữ liệu liên quan như thói quen mua hàng hoặc hồ sơ y tế của một người, những dữ liệu này có thể chứa thông tin nhạy cảm về một cá nhân. Khi ‘khóa đào tạo’ mô hình AI kết thúc, nó không được lưu giữ lại bất kỳ dữ liệu đào tạo ban đầu nào để đảm bảo ngay cả khi tin tặc xâm nhập cũng không thể thu thập được bất kỳ thông tin nhạy cảm nào.

Trong những năm gần đây, các nhà nghiên cứu bảo mật và quyền riêng tư đã chỉ ra tin tặc có thể tấn công suy luận mô hình AI, qua đó trích xuất thông tin nhạy cảm trong dữ liệu đào tạo. Tin tặc liên tục yêu cầu dịch vụ AI tạo thông tin, sau đó phân tích thông để tìm ra một mẫu hình. Khi đã xác định được mẫu hình, tin tặc có thể suy luận ra loại dữ liệu cụ thể đã sử dụng để đào tạo chương trình AI. Sử dụng các cuộc tấn công kiểu này, tin tặc thậm chí có thể xây dựng lại tập dữ liệu ban đầu mà rất có thể đó là tập dữ liệu dùng để đào tạo AI.

Các cuộc tấn công như vậy đang trở thành mối lo ngại của nhiều tổ chức trên toàn cầu. Ví dụ, vào năm 2009, đã có các cuộc tấn công tương tự nhằm vào Viện Y tế Quốc gia (NIH) ở Hoa Kỳ và NIH đã phải thay đổi chính sách truy cập với dữ liệu y tế nhạy cảm. “Các cuộc tấn công suy luận rất khó phát hiện vì hệ thống chỉ coi hacker là người dùng thông thường đang yêu cầu cung cấp thông tin. Như vậy, các công ty hiện không có cách nào để biết liệu các dịch vụ AI của họ có gặp rủi ro hay không vì hiện tại cũng không có công cụ hoàn thiện nào để chống lại kiểu tấn công này”, giáo sư Reza Shokri từ Đại học Quốc gia Singapore (NUS Computing) giải thích.

Để giải quyết vấn đề này, giáo sư Asst Shokri và nhóm của ông đã phát triển một công cụ mã nguồn mở có thể giúp các công ty xác định xem các dịch vụ AI của họ có dễ bị tấn công suy luận như vậy hay không. Công cụ đo quyền riêng tư của Máy học (ML Privacy Meter) giả lập tấn công suy luận, cuộc tấn công nhằm xác định xem một bản ghi dữ liệu cụ thể có phải là một phần của dữ liệu đào tạo mô hình hay không. Bằng cách mô phỏng các cuộc tấn công như vậy, công cụ có thể định lượng mức độ rò rỉ dữ liệu đào tạo của một mô hình AI, qua đó cho thấy nguy cơ xảy ra các cuộc tấn công khác nhau mà ở đó hacker sẽ cố gắng xây dựng lại toàn bộ hoặc một phần tập dữ liệu đào tạo. Cuối cùng, công cụ này sẽ chỉ ra các khu vực dễ bị tấn công trong bộ dữ liệu dùng để đào tạo.

Quá trình này có thể giúp các tổ chức xác định những điểm yếu trong tập dữ liệu của họ, từ đó gợi ý những kỹ thuật để hạn chế các cuộc tấn công suy luận.

“Khi xây dựng các hệ thống AI sử dụng dữ liệu nhạy cảm, các tổ chức nên đảm bảo rằng họ đã bảo vệ đầy đủ dữ liệu được xử lý trong các hệ thống đó. Công cụ của chúng tôi có thể giúp các tổ chức thực hiện phân tích hoặc kiểm tra rủi ro quyền riêng tư nội bộ trước khi triển khai hệ thống AI”, Shokri nói. “Ngoài ra, các quy định như ‘Quy định chung về bảo vệ dữ liệu’ cũng yêu cầu phải đánh giá rủi ro về quyền riêng tư đối với dữ liệu khi sử dụng máy học. Công cụ của chúng tôi có thể hỗ trợ các công ty tuân thủ quy định này”.
https://khoahocphattrien.vn/
Tin, bài cùng lĩnh vực
Cảm biến lượng tử (09/4/2021)
Hệ thống radar lắp đặt trên đường phố an toàn cho người đi bộ (09/4/2021)
Phát hiện bào quan mới trong tế bào người (09/4/2021)
Thuốc mới giúp tái tạo răng đã mất (09/4/2021)
Xét nghiệm kháng thể COVID-19 giá rẻ (08/4/2021)
Quy trình mới chiết xuất sắc tố có lợi từ ngô tím (08/4/2021)
Áp dụng liều tamoxifen thấp hơn liều được thiết lập cho thấy làm giảm nguy cơ ung thư vú (08/4/2021)
Bộ lọc từ cành cây xử lý nước ô nhiễm (08/4/2021)
Chống biến đổi khí hậu nhờ xi măng cacbon thấp hơn (08/4/2021)
Vắc- xin COVID được phát hiện có hiệu quả cao trong nghiên cứu thực tế của Hoa Kỳ (07/4/2021)
Bộ lọc từ cành cây xử lý nước ô nhiễm (07/4/2021)
Turbine không cánh quạt có thể là tương lai của năng lượng gió (02/4/2021)
Nhựa sinh học làm từ bột gỗ phân hủy hoàn toàn trong ba tháng (02/4/2021)
Các nhà khoa học thần kinh xác định các mô-típ mạch não hỗ trợ trí nhớ ngắn hạn (02/4/2021)
Liệu pháp gen ‘khắc phục’ các vấn đề đột biến trong bệnh xơ nang (01/4/2021)
Tế bào miễn dịch góp phần vào quá trình thải ghép (01/4/2021)
Gien thực vật được tìm thấy trong côn trùng, bảo vệ nó khỏi các chất độc trên lá (31/3/2021)
Ánh sánh nhân tạo phá vỡ sự thụ phấn ở thực vật, ngay cả vào ban ngày (31/3/2021)
Liệu pháp gen sử dụng 'ngón tay kẽm' có thể giúp điều trị bệnh Alzheimer (31/3/2021)
Bàn phím bảo mật trong suốt ngăn kẻ trộm (30/3/2021)
Hóa học sử dụng năng lượng mặt trời (30/3/2021)
Màng vi khuẩn tách nước khỏi dầu (30/3/2021)
Sắp thử nghiệm lâm sàng vaccine ngừa HIV (30/3/2021)
Sử dụng tơ tằm làm mô hình mô cơ (29/3/2021)
Các nhà nghiên cứu phát hiện cấu trúc 3D chịu trách nhiệm về biểu hiện gen (29/3/2021)
Công ty khởi nghiệp nhận 47 triệu USD để sản xuất thịt tổng hợp (26/3/2021)
Liệu pháp ung thư không xâm lấn: Một cách tiếp cận mới sử dụng ánh sáng NIR-III (26/3/2021)
Pin Mặt trời trong suốt có thể dùng làm mái che nhà kính (26/3/2021)
Điều chế vaccine Covid-19 dạng viên uống (26/3/2021)
Các nhà khoa học ổn định boron mỏng nguyên tử để sử dụng trong thực tế (26/3/2021)
Các nhà khoa học tạo màng bao bì thực phẩm ăn được từ tảo biển (25/3/2021)
Thiết bị lấy cảm hứng từ Kirigami để theo dõi chuyển động khớp cho người lao động ít vận động (25/3/2021)
Các tinh thể xoắn, linh hoạt là chìa khóa để sản xuất năng lượng mặt trời (25/3/2021)
Nghiên cứu đầu tiên sử dụng AI để tìm các chỉ số của cơn đau trong dữ liệu dấu hiệu sinh tồn của người bệnh (23/3/2021)
Phát hiện protein mới có vai trò quan trọng trong bệnh xơ vữa động mạch (23/3/2021)
Cho gia súc ăn rong biển làm giảm 82% lượng khí thải nhà kính (22/3/2021)
Phát hiện tế bào khối u tuần hoàn ẩn ở bệnh nhân ung thư phổi không tế bào nhỏ (22/3/2021)
Giảm nguy cơ chấn thương não cho trẻ sơ sinh có nguy cơ bằng cách uống nước ép lựu khi mang thai (22/3/2021)
Công bố phôi nang đầu tiên được tạo ra từ tế bào người (19/3/2021)
Thử nghiệm thuốc trên chip sinh học (19/3/2021)
Tiêu chuẩn mới cho việc ghi nhãn thực phẩm chay (19/3/2021)
Thiết bị tầm soát ung thư ruột mới nhất (17/3/2021)
Trí tuệ nhân tạo tính toán nguy cơ tự tử ở bệnh nhân (17/3/2021)
Thiết bị thông minh tạo thị lực nhân tạo giúp người mù nhìn thấy mọi vật dễ dàng (16/3/2021)
Phát triển công nghệ quét võng mạc để xác định chứng tự kỷ ở trẻ nhỏ (16/3/2021)
Công nghệ năng lượng mặt trời cải tiến phát hiện các tác nhân chiến tranh hóa học và thuốc trừ sâu (15/3/2021)
Thiết bị đeo trước trán có thể cải thiện điều trị vàng da cho trẻ sơ sinh (15/3/2021)
Vật liệu 4D thay đổi hình dạng đầy hứa hẹn cho kỹ thuật hình thái học (15/3/2021)
Phát triển vắc-xin cho bệnh nhiễm trùng đường tiết niệu (11/3/2021)
Phương pháp điều trị mới cho u nguyên bào thần kinh đệm (11/3/2021)
Tải ứng dụng Khai báo y tế toàn dân NCOV
Ứng dụng trên IOS
Ứng dụng trên Android
Quyết định số 58/QĐ-SKHCN về việc Quyết định phê duyệt nhiệm vụ thường xuyên theo chức năng của Trung tâm Nghiên cứu, ứng dụng và Thông tin Khoa học và Công nghệ thực hiện năm 2021- Tên nhiệm vụ: Tập huấn hướng dẫn kỹ thuật sử dụng chế phẩm vi sinh trong sản xuất nông nghiệp và nuôi trồng thủy sản cho người dân trên địa bàn tỉnh

Quyết định số 59/QĐ-SKHCN về việc Quyết định phê duyệt nhiệm vụ thường xuyên theo chức năng của Trung tâm Nghiên cứu, ứng dụng và Thông tin Khoa học và Công nghệ thực hiện năm 2021- Tên nhiệm vụ: Nghiên cứu sản xuất thử nghiệm trà túi lọc Giảo Cổ Lam

Quyết định số 57/QĐ-SKHCN về việc Quyết định phê duyệt nhiệm vụ thường xuyên theo chức năng của Trung tâm Nghiên cứu, ứng dụng và Thông tin Khoa học và Công nghệ thực hiện năm 2021- Tên nhiệm vụ: Phân lập, tuyển chọn các chủng vi khuẩn có khả năng hòa tan Phosphate và Kali khó tan từ đất

Quyết định số 56/QĐ-SKHCN về việc Quyết định phê duyệt nhiệm vụ thường xuyên theo chức năng của Trung tâm Nghiên cứu, ứng dụng và Thông tin Khoa học và Công nghệ thực hiện năm 2021- Tên nhiệm vụ: Nghiên cứu quy trình nhân giống cây Dâu tây bằng phương pháp nuôi cấy mô

Quyết định số 55/QĐ-SKHCN về việc Quyết định phê duyệt nhiệm vụ thường xuyên theo chức năng của Trung tâm Nghiên cứu, ứng dụng và Thông tin Khoa học và Công nghệ thực hiện năm 2021- Tên nhiệm vụ: Xây dựng mô hình trồng thử nghiệm cây bơ giống 034 và mít Thái Lan tại xã Hướng Phùng, huyện Hướng Hóa

Quyết định số 54/QĐ-SKHCN về việc Quyết định phê duyệt nhiệm vụ thường xuyên theo chức năng của Trung tâm Nghiên cứu, ứng dụng và Thông tin Khoa học và Công nghệ thực hiện năm 2021- Tên nhiệm vụ: Nghiên cứu sản xuất enzyme Protease, Amilase dạng thô từ các chủng vi sinh vật trong hệ thống lên men quy mô pilot

Quyết định số 53/QĐ-SKHCN về việc Quyết định phê duyệt nhiệm vụ thường xuyên theo chức năng của Trung tâm Nghiên cứu, ứng dụng và Thông tin Khoa học và Công nghệ thực hiện năm 2021- Tên nhiệm vụ: Nghiên cứu quy trình và sản xuất thử nghiệm bột cà rốt, củ dền đỏ bằng công nghệ sấy tiên tiến

Quyết định số 52/QĐ-SKHCN về việc Quyết định phê duyệt nhiệm vụ thường xuyên theo chức năng của Trung tâm Nghiên cứu, ứng dụng và Thông tin Khoa học và Công nghệ thực hiện năm 2021- Tên nhiệm vụ: Nghiên cứu quy trình và sản xuất thử nghiệm bột matcha rau má, matcha rau ngót bằng công nghệ sấy tiên tiến

Quyết định số 51/QĐ-SKHCN về việc Quyết định phê duyệt nhiệm vụ thường xuyên theo chức năng của Trung tâm Nghiên cứu, ứng dụng và Thông tin Khoa học và Công nghệ thực hiện năm 2021- Tên nhiệm vụ: Ứng dụng kỹ thuật PCR, Realtime PCR để chuẩn đoán một số bệnh trên con tôm và bệnh tiêu điên trên cây hồ tiêu tại Quảng Trị

Quyết định số 50/QĐ-SKHCN về việc Quyết định phê duyệt nhiệm vụ thường xuyên theo chức năng của Trung tâm Nghiên cứu, ứng dụng và Thông tin Khoa học và Công nghệ thực hiện năm 2021- Tên nhiệm vụ: Hoạt động thống kê khoa học và công nghệ

Thông báo kết quả phê duyệt danh mục nhiệm vụ KH&CN cấp cơ sở (lần 1, năm 2021), tên nhiệm vụ: "Nghiên cứu mô hình xây dựng cây Đàn Hương trên đất gò đồi của huyện Vĩnh Linh"

Thông báo kết quả phê duyệt danh mục nhiệm vụ KH CN cấp cơ sở (lần 1, năm 2021), tên nhiệm vụ: "Nghiên cứu sản xuất thử nghiệm sản phẩm trà gừng hòa tan và trà gừng mật ong tại tỉnh Quảng Trị"

Thông báo kết quả phê duyệt danh mục nhiệm vụ KH&CN cấp cơ sở (lần 1, năm 2021), tên nhiệm vụ: "Nghiên cứu xây dựng mô hình nhà màng sấy phơi đơn giản, ứng dụng hiệu ứng nhà kính trong chế biến hải sản khô trên địa bàn tỉnh Quảng Trị"

Thông báo kết quả phê duyệt danh mục nhiệm vụ KH&CN cấp cơ sở (lần 1, năm 2021), tên nhiệm vụ: "Nghiên cứu công nghệ sấy tiên tiến chế biến tiêu xanh nhằm nâng cao chất lượng và giá trị kinh tế cho Hồ tiêu tại Quảng Trị"

Thông báo kết quả phê duyệt danh mục nhiệm vụ KH&CN cấp cơ sở (lần 1, năm 2021), tên nhiệm vụ: "Điều tra đánh giá thực trạng vùng sản xuất và xây dựng mô hình thâm canh cây chuối Tiêu hồng tại huyện Đakrông, tỉnh Quảng Trị "

Quy chế tiếp công dân của Sở Khoa học và Công nghệ tỉnh Quảng Trị
Nội quy tiếp công dân
Thống kê lượt truy cập
Số người online 1.057
Hôm nay 2.257
Hôm qua 5.908
Tất cả 3.421.485

© CỔNG THÔNG TIN ĐIỆN TỬ KHOA HỌC VÀ CÔNG NGHỆ QUẢNG TRỊ
Cơ quan chủ quản: Sở Khoa học và Công nghệ Quảng Trị
Chịu trách nhiệm: Trần Ngọc Lân, Giám đốc Sở Khoa học và Công nghệ
 204 Hùng Vương, Đông Hà; ĐT: 0233.3550 382. Hệ thống chạy tốt nhất trên trình duyệt Cốc cốc.

Thiết kế và xây dựng: Trung tâm Nghiên cứu, Ứng dụng và Thông tin KH&CN
Ghi rõ nguồn Dostquangtri khi sử dụng thông tin từ website này