Gradient Là Gì Toán Học

  -  

Gradient Descent là cụm từ được nghe hết sức thỉnh thoảng học về MLP, Neuron Network, tuyệt CNN. Quen em nó nhau lâu rồi, chú ý mặt nhau miết, tưởng mình đã phát âm nhau, nhưng tới thời điểm này new vẽ lẽ vừa không hiểu cùng vừa đọc không đúng em nó thừa trời… Nay nhờ hoàn cảnh chuyển đẩy mà mình hiểu thêm được em nó đôi chút.

Bạn đang xem: Gradient là gì toán học

Gradient - em nó là ai ?

Gradient của một hàm $f(x_1, x_2, …, x_n)$, được ký kết hiệu $ abla f$ là một trong vector $n$ chiều, nhưng mỗi thành phía bên trong vector kia là 1 trong đạo hàm riêng rẽ phần (partial derivative) theo từng biến chuyển của hàm đó:$$box<20px,border:1px solid black> abla f=(fracdfdx_1, fracdfdx_1, …, fracdfdx_n)$$

Sau đây là 2 điều mình new đọc ra:

1. Vector gradient trên một điểm cho mình biết trường đoản cú điểm này, phía làm sao làm cho tăng giá trị $f$ những duy nhất có thể. Tại sao lại là tăng ?

Chấp dấn vấn đề này thọ rồi, tự nhiên ngày hôm qua new ngớ ra: Tại sao lại là phía tăng (Hình 1) mà không phải là phía giảm ?

*

Hình 1. Hướng của vector gradient luôn luôn chỉ về phía cao hơn

Wow wow, nguyên nhân là vì ông như thế nào tư tưởng nó điều này :v. Mỗi thành phần của vector gradient là 1 đạo hàm riêng phần, giờ đồng hồ test xét $fracdfdx$.Định nghĩa đạo hàm theo <1>:$$fracdfdx = fracf(x+epsilon)-f(x)epsilon$$cùng với $epsilon>0$ cùng đủ nhỏ tuổi. Mấu chốt phần đa nằm tại vị trí ông $epsilon$, bởi vì $ epsilon>0$, buộc phải chiều của $fracdfdx$ chỉ với phụ thuộc vào vào tử số.

Từ kia ta xét 2 trường đúng theo $vecAB$ với $vecCD$ đã hiểu:

Vector AB: $$fracdfdx=fracf(A) - f(B)x_A - x_B$$Vì $f(A)Vector CD: $$fracdfdx=fracf(D) - f( C)x_D - x_C$$Vì $f( C)

Vì vậy nhưng $fracdfdx$ luôn chỉ về phía $f$ tăng.

2. Vector gradient trực giao (perpendicular) cùng với contour line của hàm

Vấn đề này nghe bực bản thân + rối rắm kinh khủng khiếp khi cứ ghi nhớ lớp 12, được học tập đạo hàm của hàm $y = f(x)$ tại $x_0$ chính là pháp con đường của $f(x)$ trên $x_0$. Rà lại, gọi về đạo hàm (derivative) thấy đâu đâu cũng vẽ hình tiếp con đường <1>, dòng khỉ gì giờ lại là trực giao ? Với vừa nãy ở trên bắt đầu nói là phía làm cho tăng $f$, sao tiếng lại sở hữu chuyện trực giao tại chỗ này ?

*
*

Mấu chốt nằm ở định nghĩa contour line. Nó có vài ba tên khác nhau: contour line, màn chơi set, level curve. Định nghĩa ở chỗ này cả <2>. Đại khái một contour line là tập vừa lòng số đông điểm tạo cho hàm có cùng một giá trị $y_0$ như thế nào đó. Hàm gồm miền vô hạn thì cũng tức là gồm vô vàn contour line.

Xem thêm: Cách Nhận Súng Trong Truy Kich Mien Phi Www, Cách Trang Bị Vũ Khí Trong Game Truy Kích

Vậy là Hình 2.a với 2.b vẫn màn trình diễn hai tuyến đường khác nhau: đường color Black vào hình 2.a là trang bị thị trình diễn sự phụ thuộc $y$ theo $x$ qua hàm $y=f(x)$, con đường màu xanh vào hình 2.b là 1 trong con đường contour line màn biểu diễn của hàm $g(x)=0$. Mình bị lầm lẫn chính vì lâu nay học tập những hàm $y=f(x)$, phần lớn các là hàm đơn đổi mới, màn trình diễn đồ vật thị của chính nó bởi tọa độ 2 chiều. Nhưng với những hàm đa biến chuyển (tự 2 biến trsinh sống lên), người ta khó khăn biểu diễn đồ dùng thị của hàm trên tọa độ 2 chiều nữa, nên người ta nghĩ về ra dòng contour line dễ biểu diễn hơn.

khi học về Linear Regression, $y=WX + b$, bạn ta thường mang ví dụ $W$ với $X$ tất cả 2D, cụ thể $y=w_1x_1 + w_2x_2 + w_0$, điều này khiến mình shop mang đến hàm $y=ax + b$ hồi đó gồm học tập, chỉ là gửi vế qua thì $x$, $y$ tương ứng $w_1$, $w_2$. Điều này không nên trọn vẹn, SAI ÁC LIỆT LUÔN. Chính trường đoản cú đây dẫn đến đầy đủ nhầm lẫn Lúc gọi mang lại vector gradient.

Nói đúng đắn thì $y=ax+b$ chỉ nên một phần tử trong tập contour line của $y=w_1x_1 + w_2x_2 + w_0$. Và nhiệm vụ của Linear Regression là đi tìm kiếm một contour line vào tập những contour line làm việc bên trên.

Về cthị trấn ngày lớp 12 được dạy dỗ rằng đạo hàm của hàm $y=f(x)$ là 1 vector bao gồm pmùi hương tiếp con đường với đồ dùng thị $f(x)$. Như vậy được phân tích và lý giải như sau: Hàm $y=f(x)$ là hàm một trở nên. Nếu vẽ theo phong cách contour line, mỗi contour line sẽ là 1 điểm (hoặc một vài ba điểm). Vì vậy nhưng tất nhiên nó thoải điều kiện vector gradient trực giao cùng với đường contour line. Không có mâu thuẫn gì tại đây cả.

Xem thêm: Full S Chặng 7 Thiếu Nữ - Ngôi Sao Thời Trang: Gợi Ý Đạt Điểm S Chặng 7

Phường.s: Viết ra bắt đầu thấy, Mặc dù vẫn đọc, vẫn cầm được loại bản chất, mà lại ao ước biểu hiện nó ra vẫn khó thiệt. Bài này thừa lủng cũng.