Học tiệm tiến

Bách khoa toàn thư mở Wikipedia

Trong khoa học máy tính, học tiệm tiến là một phương pháp học máy trong đó dữ liệu đầu vào được sử dụng liên tục để mở rộng tri thức của mô hình hiện có, nói cách khác là huấn luyện thêm cho mô hình. Nó đại diện cho một kỹ thuật động của phương pháp học có giám sáthọc không có giám sát mà được áp dụng khi dữ liệu huấn luyện được cung cấp dần theo thời gian hoặc kích thước của dữ liệu vượt quá giới hạn bộ nhớ hệ thống. Các thuật toán có thể tạo điều kiện cho việc học tiệm tiến được gọi là thuật toán học máy tiệm tiến.

Nhiều thuật toán học máy truyền thống vốn dĩ hỗ trợ phương pháp học tiệm tiến. Các thuật toán khác có thể được điều chỉnh để tạo điều kiện học tiệm tiến. Ví dụ về thuật toán tiệm tiến bao gồm cây quyết định (IDE4,[1] ID5R [2]), quy tắc quyết định,[3] mạng nơ-ron nhân tạo (mạng RBF,[4] Learn ++,[5] Fuzzy ARTMAP,[6] TopoART,[7] và IGNG [8]) hoặc SVM tiệm tiến.[9]

Mục đích của học tiệm tiến là để mô hình học thích ứng với dữ liệu mới mà không quên tri thức hiện có của nó. Một số máy học tiệm tiến đã tích hợp sẵn một số tham số hoặc giả định kiểm soát mức độ liên quan của dữ liệu cũ, trong khi những máy học khác, được gọi là thuật toán học máy tiệm tiến ổn định, học những biểu diễn của dữ liệu huấn luyện mà thậm chí không bị quên phần nào theo thời gian. Fuzzy ART [10] và TopoART [7] là hai ví dụ cho cách tiếp cận thứ hai này.

Các thuật toán tiệm tiến thường được áp dụng cho dòng dữ liệu truyền phát hoặc dữ liệu lớn nhằm giải quyết các vấn đề về tính sẵn có của dữ liệu và sự khan hiếm tài nguyên. Dự đoán xu hướng cổ phiếu và hồ sơ người dùng là một số ví dụ về dòng dữ liệu truyền phát trong đó dữ liệu mới được cung cấp liên tục. Việc áp dụng học tiệm tiến đối với dữ liệu lớn nhằm mục đích phân loại hoặc dự báo nhanh hơn.

Tham khảo[sửa | sửa mã nguồn]

 

  1. ^ Schlimmer, J. C., & Fisher, D. A case study of incremental concept induction. Fifth National Conference on Artificial Intelligence, 496-501. Philadelphia, 1986
  2. ^ Utgoff, P. E., Incremental induction of decision trees. Machine Learning, 4(2): 161-186, 1989
  3. ^ Ferrer-Troyano, Francisco, Jesus S. Aguilar-Ruiz, and Jose C. Riquelme. Incremental rule learning based on example nearness from numerical data streams. Proceedings of the 2005 ACM symposium on Applied computing. ACM, 2005
  4. ^ Bruzzone, Lorenzo, and D. Fernàndez Prieto. An incremental-learning neural network for the classification of remote-sensing images. Pattern Recognition Letters: 1241-1248, 1999
  5. ^ R. Polikar, L. Udpa, S. Udpa, V. Honavar. Learn++: An incremental learning algorithm for supervised neural networks. IEEE Transactions on Systems, Man, and Cybernetics. Rowan University USA, 2001.
  6. ^ G. Carpenter, S. Grossberg, N. Markuzon, J. Reynolds, D. Rosen. Fuzzy ARTMAP: a neural network architecture for incremental supervised learning of analog multidimensional maps. IEEE transactions on neural networks, 1992
  7. ^ a b Marko Tscherepanow, Marco Kortkamp, and Marc Kammer. A Hierarchical ART Network for the Stable Incremental Learning of Topological Structures and Associations from Noisy Data Lưu trữ 2017-08-10 tại Wayback Machine. Neural Networks, 24(8): 906-916, 2011
  8. ^ Jean-Charles Lamirel, Zied Boulila, Maha Ghribi, and Pascal Cuxac. A New Incremental Growing Neural Gas Algorithm Based on Clusters Labeling Maximization: Application to Clustering of Heterogeneous Textual Data. IEA/AIE 2010: Trends in Applied Intelligent Systems, 139-148, 2010
  9. ^ Diehl, Christopher P., and Gert Cauwenberghs. SVM incremental learning, adaptation and optimization Lưu trữ 2017-12-15 tại Wayback Machine. Neural Networks, 2003. Proceedings of the International Joint Conference on. Vol. 4. IEEE, 2003.
  10. ^ Carpenter, G.A., Grossberg, S., & Rosen, D.B., Fuzzy ART: Fast stable learning and categorization of analog patterns by an adaptive resonance system, Neural Networks, 4(6): 759-771, 1991

Liên kết ngoài[sửa | sửa mã nguồn]