1x1 convolution là gì
|
Tôi hiện đang làm Hướng dẫn học tập sâu Udacity. Trong Bài học 3, họ nói về tích chập 1x1. Phép chập 1x1 này được sử dụng trong Mô-đun khởi động của Google. Tôi đang gặp khó khăn để hiểu thế nào là tích chập 1x1. Tôi cũng đã thấy bài viết này của Yann Lecun. Ai đó có thể vui lòng giải thích điều này cho tôi? Giả sử rằng tôi có một lớp đối lưu tạo ra một tenxơ hình trong đó:(N,F,H,W)(N,F,H,W)
Giả sử đầu ra này được đưa vào một lớp đối lưu với các bộ lọc 1x1, không đệm và sải chân 1. Sau đó, đầu ra của lớp đối lưu 1x1 này sẽ có hình dạng .F1F1(N,F1,H,W)(N,F1,H,W) Vì vậy, các bộ lọc đối chiếu 1x1 có thể được sử dụng để thay đổi kích thước trong không gian bộ lọc. Nếu thì chúng ta đang tăng chiều, nếu chúng ta đang giảm chiều, trong chiều của bộ lọc.F1>FF1>FF1 Thật vậy, trong bài viết Google Inception , Deep Deep with Convolutions , họ tuyên bố (in đậm là của tôi, không phải của các tác giả gốc): Vì vậy, trong kiến trúc Inception, chúng tôi sử dụng các bộ lọc tích chập 1x1 để giảm tính chiều trong kích thước bộ lọc. Như tôi đã giải thích ở trên, các lớp đối lưu 1x1 này có thể được sử dụng chung để thay đổi kích thước không gian của bộ lọc (tăng hoặc giảm) và trong kiến trúc Inception, chúng ta thấy các bộ lọc 1x1 này có hiệu quả như thế nào để giảm kích thước, rõ ràng trong không gian kích thước bộ lọc , không phải là không gian kích thước không gian. Có lẽ có những cách hiểu khác về bộ lọc đối lưu 1x1, nhưng tôi thích cách giải thích này, đặc biệt là trong bối cảnh kiến trúc Google Inception. Một tích chập 1x1 chỉ đơn giản là ánh xạ một pixel đầu vào với tất cả các kênh của nó thành một pixel đầu ra, không nhìn vào bất cứ thứ gì xung quanh nó. Nó thường được sử dụng để giảm số lượng kênh độ sâu, vì nó thường rất chậm để nhân khối lượng với độ sâu cực lớn. input (256 depth) -> 1x1 convolution (64 depth) -> 4x4 convolution (256 depth) input (256 depth) -> 4x4 convolution (256 depth) Cái dưới cùng chậm hơn khoảng 3,7 lần. Về mặt lý thuyết, mạng lưới thần kinh có thể 'chọn' đầu vào 'màu sắc' để xem xét việc sử dụng này, thay vì lực lượng vũ phu nhân lên mọi thứ. Lý do chính khiến tôi không hiểu được các kết quả 1x1 là vì tôi không hiểu thực sự hoạt động như thế nào. Yếu tố chính là cách tính toán một tổ hợp của nhiều kênh / bộ lọc hoạt động. Để hiểu điều này, tôi thấy câu trả lời này cũng hữu ích:anyany https://datascience.stackexchange.com/questions/9175/how-do-sub resultent-convolution-layers-work Cụ thể, Loại 2.2 là mô tả chính xác về tích chập ở đó. Một câu trả lời hữu ích khác: https://ai.stackexchange.com/questions/5769/in-a-cnn-does-each-new-filter-have-different-weights-for-each-input-channel-or Câu trả lời này giải thích cách bạn có một bộ lọc riêng cho từng kết hợp kênh vào / ra . Sau khi tính toán từng giá trị này, các kết quả sẽ được tính tổng qua trục kênh đầu vào với số giá trị của kênh đầu ra . Đây là video tôi tìm thấy giúp tôi hiểu cách thức tích chập 1x1 hoạt động. https://www.coursera.org/lecture/convolutional-neural-networks/networks-in-networks-and-1x1-convolutions-ZTb8x Đây là những điều chính tôi đã rút ra từ nó:
Tôi sẽ cố gắng giải thích bằng trực giác và ngắn gọn hơn bằng hình ảnh minh họa!Một đối số 1 * 1 (còn gọi là mạng trong mạng )? giả sử bạn nhập là (n_H, n_W, n_c_prev). Bạn có thể nghĩ (1 * 1 * n_c_prev) là một nơron duy nhất (mạng được kết nối đầy đủ - tại sao N / w trong N / w ) lại lấy số (n_c_prev) trong đầu vào nhân chúng với (1 * 1 * n_c_prev ) và sau đó thêm và sau đó lấy ReLu & output (n_H, n_W) và nếu bạn có nhiều bộ lọc (n_c) thì đầu ra sẽ là (n_H, n_W, n_C). Vì vậy, bạn có thể sử dụng lớp gộp để giảm kích thước không gian (n_H, n_W) và có thể sử dụng đối số 1 * 1 để giảm n_c_prev (tức là số lượng kênh) giúp tiết kiệm rất nhiều tính toán. Ví dụ Vì vậy, một mang đi
Nói cách khác,
Thêm một ý tưởng về giảm kích thước trong ngữ cảnh của các bộ lọc 1x1: Lấy ví dụ một lớp fc7 4096x8x8 từ FCN. Điều gì xảy ra nếu lớp tiếp theo (gọi nó là fc8) là 2048x8x8 với kích thước bộ lọc 1? fc7 nằm rất sâu trong mạng, mỗi tính năng trong số 4096 của nó rất phong phú về mặt ngữ nghĩa, nhưng mỗi nơ-ron (ví dụ hình ảnh đầu vào là 250x250x3) có trường tiếp nhận lớn. Nói cách khác, nếu một nơron hoạt động rất mạnh, chúng ta biết rằng ở đâu đó trong trường ngữ nghĩa của nó có một tính năng tương ứng. Lấy ví dụ một nơron trên cùng bên trái trong fc8 với bộ lọc 1x1. Nó kết nối với tất cả 4096 nơ-ron / tính năng chỉ trong cùng một lĩnh vực tiếp nhận (góc trên bên trái của hình ảnh), mỗi tính năng được kích hoạt bởi một tính năng duy nhất. Một số (hãy cùng 500) trong số họ rất tích cực. Nếu tế bào thần kinh kết quả cũng rất tích cực, điều đó có nghĩa là có lẽ nó đã học được cách xác định 1 hoặc nhiều tính năng trong lĩnh vực tiếp nhận này. Sau khi bạn thực hiện điều này 2048 lần cho các nơ-ron trên cùng bên trái trong fc8, khá nhiều trong số chúng (ví dụ 250) sẽ hoạt động rất mạnh, có nghĩa là chúng 'thu thập' các tính năng từ cùng một lĩnh vực tiếp nhận thông qua fc7 và nhiều khả năng nhiều hơn một. Nếu bạn tiếp tục giảm kích thước, số lượng tế bào thần kinh giảm sẽ học được số lượng tính năng ngày càng tăng từ cùng một lĩnh vực tiếp nhận. Và vì các tham số không gian 8x8 vẫn giữ nguyên, chúng tôi không thay đổi 'chế độ xem' của mỗi nơ-ron, do đó không làm giảm độ thô của không gian. Bạn có thể muốn xem 'Mạng đầy đủ kết hợp' của Long, Shelhamer và Darrel. Hoạt động toán học của tích chập có nghĩa là tính toán tích của hai hàm (liên tục hoặc rời rạc) trên tất cả các vị trí dịch chuyển có thể. Trong hình ảnh 2 chiều (mức xám), phép tích chập được thực hiện bằng thao tác cửa sổ trượt, trong đó cửa sổ (hạt nhân tích chập 2 chiều) là ma trận .v×vv×v Các ứng dụng xử lý hình ảnh của các mạng thần kinh - bao gồm các mạng thần kinh tích chập - đã được xem xét trong: [M. Egmont-Petersen, D. de Ridder, H. Handels. Xử lý hình ảnh với các mạng thần kinh - một đánh giá , Nhận dạng mẫu , Tập. 35, số 10, trang 2279-2602, 2002]. Video liên quan |
