Tài liệu Các quy tắc tính toán dưới vi phân của hàm lồi

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2 KHOA TOÁN Trịnh Thị Thanh Hiếu CÁC QUY TẮC TÍNH TOÁN DƯỚI VI PHÂN CỦA HÀM LỒI KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC Hà Nội – Năm 2018 BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2 KHOA TOÁN Trịnh Thị Thanh Hiếu CÁC QUY TẮC TÍNH TOÁN DƯỚI VI PHÂN CỦA HÀM LỒI Chuyên ngành: Toán giải tích KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC NGƯỜI HƯỚNG DẪN KHÓA LUẬN : TS. NGUYỄN VĂN TUYÊN Hà Nội – Năm 2018 LỜI CẢM ƠN Em xin được gửi lời cảm ơn tới các thầy cô giáo trường Đại học Sư phạm Hà Nội 2, các thầy cô giáo khoa Toán đã giúp đỡ em trong quá trình học tập tại trường và tạo điều kiện cho em hoàn thành đề tài khóa luận tốt nghiệp. Đặc biệt em xin bày tỏ lòng biết ơn sâu sắc tới thầy Nguyễn Văn Tuyên đã tận tình giúp đỡ em trong suốt quá trình học tập, nghiên cứu và hoàn thành khóa luận này. Trong quá trình nghiên cứu, không tránh khỏi những thiếu sót và hạn chế. Kính mong nhận được sự đóng góp ý kiến của các thầy giáo, cô giáo và toàn thể bạn đọc để đề tài được hoàn thiện hơn. Em xin chân thành cảm ơn! Hà Nội, ngày 07 tháng 05 năm 2018 Sinh viên Trịnh Thị Thanh Hiếu LỜI CAM ĐOAN Em xin cam đoan dưới sự hướng dẫn của thầy giáo Nguyễn Văn Tuyên khóa luận của em được hoàn thành không trùng với bất kì đề tài nào khác. Trong khi thực hiện đề tài em đã sử dụng và tham khảo các thành tựu của các nhà khoa học với lòng biết ơn trân trọng. Hà Nội, ngày 07 tháng 05 năm 2018 Sinh viên Trịnh Thị Thanh Hiếu ii Mục lục Lời mở đầu 1 1 2 Hàm lồi 1.1 Các khái niệm cơ bản . . . . . . . . . . . . . . . . . . . . 2 1.2 Hàm lồi trơn . . . . . . . . . . . . . . . . . . . . . . . . . 10 1.3 Đạo hàm theo hướng . . . . . . . . . . . . . . . . . . . . 13 2 Tính toán dưới vi phân 16 2.1 Dưới-gradient và dưới vi phân . . . . . . . . . . . . . . . 16 2.2 Các quy tắc tính toán dưới vi phân . . . . . . . . . . . . 30 2.3 Dưới vi phân của hàm max 35 . . . . . . . . . . . . . . . . Kết luận 40 Tài liệu tham khảo 41 i Khóa luận tốt nghiệp Đại học Trịnh Thị Thanh Hiếu Lời mở đầu Giải tích lồi là một bộ môn quan trọng trong giải tích phi tuyến hiện đại. Giải tích lồi nghiên cứu những khía cạnh giải tích của tập lồi và hàm lồi. Dưới vi phân, một mở rộng cho đạo hàm khi hàm không khả vi, là một khái niệm cơ bản của giải tích lồi. Việc khảo sát các quy tắc tính toán của dưới vi phân của các hàm lồi có vai trò quan trọng trong lý thuyết tối ưu và các bài toán liên quan. Với mong muốn được tìm hiểu sâu hơn về hàm lồi và phép tính dưới vi phân của hàm lồi, tôi đã chọn nghiên cứu đề tài: “Các quy tắc tính toán dưới vi phân của hàm lồi”. Mục đích của khóa luận là trình bày một cách có hệ thống, các kiến thức cơ bản và quan trọng nhất về hàm lồi và các quy tắc tính toán dưới vi phân của hàm lồi. Các kết quả chính trong khóa luận được trình bày dựa trên cuốn chuyên khảo [3, Chapter 2]. Khóa luận gồm hai chương: Chương 1 trình bày một số kiến thức chuẩn bị. Nội dung chính của chương này là trình bày một số kiến thức cơ bản của tập lồi và hàm lồi Chương 2 trình bày về các quy tắc tính toán dưới vi phân. Mục 2.1 nhắc lại một số tính chất cơ bản của dưới-gradient và dưới vi phân. Mục 2.2 trình bày một số quy tắc tính toán dưới vi phân. Mục 2.3 trình bày về dưới vi phân của hàm max. 1 Chương 1 Hàm lồi 1.1 Các khái niệm cơ bản Kí hiệu R := R ∪ {±∞} và gọi là tập số thực mở rộng. Cho f : Rn → R là một hàm số. Miền hữu hiệu và tập trên đồ thị của f tương ứng được kí hiệu bởi: domf = {x ∈ Rn : f (x) < +∞} , epif = {(x, v) ∈ Rn × R : v ≥ f (x)} . Định nghĩa 1.1. Một tập X ∈ Rn được gọi là lồi nếu với mọi x1 , x2 ∈ X và α ∈ [0, 1], ta có (1 − α)x1 + αx2 ∈ X. Định nghĩa 1.2. Bao lồi của một tập X được kí hiệu là conv X là giao của tất cả các tập lồi chứa X. Định nghĩa 1.3. Cho X là một tập lồi đóng trong Rn và x ∈ Rn . Một điểm thuộc X gần x nhất được gọi là hình chiếu của x lên X và kí hiệu là ΠX (x). Theo [3, Theorem 2.10], ta có hình chiếu của một điểm lên một tập Khóa luận tốt nghiệp Đại học Trịnh Thị Thanh Hiếu lồi đóng luôn tồn tại và duy nhất. Định nghĩa 1.4. Một tập K ⊂ Rn được gọi là một nón nếu αx ∈ K với mọi α > 0 và x ∈ K. Bổ đề 1.1. Giả sử X là một tập lồi. Khi đó tập cone(X) = {γx : x ∈ X, γ ≥ 0} là một nón lồi. Định nghĩa 1.5. Cho K là một nón. Tập hợp K ◦ := {y ∈ Rn : hy, xi ≤ 0, ∀x ∈ K} được gọi là nón cực của K. Định nghĩa 1.6. Cho X là một tập lồi đóng và x ∈ X. Tập hợp NX (x) = {v ∈ Rn : ΠX (x + v) = x} được gọi là nón pháp tuyến của X tại x. Theo định nghĩa, dễ dàng chứng minh được rằng NX (x) = [cone(X − x)]◦ . Định nghĩa 1.7. Một hàm số f được gọi là lồi nếu epif là một tập lồi. 3 Khóa luận tốt nghiệp Đại học Trịnh Thị Thanh Hiếu Ví dụ 1.1. Một ví dụ về hàm lồi:     x ln(x) − x nếu x > 0,    f (x) = 0 nếu x = 0,      +∞ nếu x < 0. Định nghĩa 1.8. Một hàm f được gọi là lõm nếu −f lồi. Định nghĩa 1.9. Một hàm f được gọi là chính thường nếu f (x) > −∞ với mọi x và f (x) < +∞ với ít nhất một x. Bổ đề 1.2. Một hàm f là lồi khi và chỉ khi với mọi x1 , x2 và 0 ≤ α ≤ 1 ta có f (αx1 + (1 − α)x2 ) ≤ αf (x1 ) + (1 − α)f (x2 ). (1.1) Chứng minh. Nếu x1 ∈ / domf hoặc x2 ∈ / domf , thì bất đẳng thức là tầm thường. Nếu x1 ∈ domf và x2 ∈ domf . Khi đó các điểm   1  2  x x  ∈ epif.  và   f (x2 ) f (x1 ) Nếu f lồi thì  1 2  αx + (1 − α)x   ∈ epif. 1 2 αf (x ) + (1 − α)f (x ) Theo định nghĩa của tập trên đồ thị, ta có (1.1). Ngược lại, giả sử ta có (1.1), (xi , v i ) ∈ epif , i = 1, 2, và α ∈ [0, 1]. 4 Khóa luận tốt nghiệp Đại học Trịnh Thị Thanh Hiếu Khi đó, theo (1.1), ta có f (αx1 + (1 − α)x2 ) ≤ αf (x1 ) + (1 − α)f (x2 ) ≤ αv 1 + (1 − α)v 2 . Do đó, (αx1 + (1 − α)x2 , αv 1 + (1 − α)v 2 ) ∈ epif . Điều đó có nghĩa là epif là một tập lồi. Bất đẳng thức (1.1) có thể được sử dụng như một định nghĩa khác về các hàm lồi chính thường. Ví dụ 1.2. Hàm f (x) = kxk♦ , ở đó k · k♦ là một chuẩn trong Rn , là một hàm lồi chính thường. Thật vậy, với mọi x, y ∈ Rn và α ∈ [0, 1], theo bất đẳng thức tam giác, ta có kαx + (1 − α)yk♦ ≤ kαxk♦ + k(1 − α)yk♦ = αkxk♦ + (1 − α)kyk♦ . Ví dụ 1.3. Giả sử Z là một tập lồi đóng trong Rn . Khoảng cách tới Z, f (x) = min kx − zk♦ , z∈Z ở đó k · k♦ là một chuẩn trong Rn , là một hàm lồi chính thường. Thật vậy, xét 2 điểm x và y , và α ∈ (0, 1) bất kì. Do Z là tập đóng, nên tồn tại các điểm v ∈ Z và w ∈ Z sao cho f (x) = kx − vk♦ , f (y) = ky − wk♦ . Trong trường hợp đặc biệt, khi k · k♦ là một chuẩn Euclide, theo [3, 5 Khóa luận tốt nghiệp Đại học Trịnh Thị Thanh Hiếu Theorem 2.10], v và w là các hình chiếu của x và y lên Z. Vì Z là một tập lồi, nên tổ hợp lồi của các điểm này αv + (1 − α)w, với α ∈ (0, 1), cũng là một phần tử của Z. Do đó, f (αx + (1 − α)y) = min kαx + (1 − α)y − zk♦ z∈Z ≤ kαx + (1 − α)y − [αv + (1 − α)w] k♦ = kα(x − v) + (1 − α)(y − w)k♦ ≤ αkx − vk♦ + (1 − α)ky − wk♦ = αf (x) + (1 − α)f (y). Trong ví dụ trên, tính lồi của tập Z là cần thiết. Hàm khoảng cách đến một tập không lồi không phải là một hàm lồi. Định nghĩa 1.10. Một hàm f được gọi là lồi chặt nếu bất đẳng thức (1.1) là chặt với mọi x1 6= x2 và 0 < α < 1. Bổ đề 1.3. Nếu f lồi thì domf là một tập lồi. Chứng minh. Nếu x1 ∈ domf và x2 ∈ domf , thì theo Bổ đề 1.2, ta có f (αx1 + (1 − α)x2 ) < +∞. Khi đó αx1 + (1 − α)x2 ∈ domf , nên domf là một tập lồi. Bổ đề 1.4. Nếu fi , i ∈ I, là một họ các hàm lồi, thì f (x) = sup fi (x) i∈I là một hàm lồi. 6 Khóa luận tốt nghiệp Đại học Trịnh Thị Thanh Hiếu Chứng minh. Ta có epif = \ epifi . i∈I Theo giả thiết của mệnh đề và theo [3, Lemma 2.2], tập epif lồi. Do đó, hàm f là lồi. Ví dụ 1.4. Với một ma trận đối xứng, ta xác định giá trị riêng lớn nhất của nó là λmax (A). Do đó, trong không gian Sn của các ma trận đối xứng có kích thước n × n ta xét hàm f (A) = λmax (A), Vì λmax (A) = max hy, Ayi, và mỗi hàm fy (A) = hy, Ayi tuyến tính, nên kyk=1 hàm λmax (·) là hàm lồi. Bổ đề 1.5. Nếu f là một hàm lồi, thì với mọi x1 , x2 , . . . , xn và α1 ≥ 0, α2 ≥ 0, . . . , αm ≥ 0 sao cho α1 + α2 + . . . + αm = 1, ta có f (α1 x1 + α2 x2 + . . . + αm xm ) ≤ α1 f (x1 ) + α2 f (x2 ) + . . . + αm f (xm ). Chứng minh. Ta có các điểm  i  x   , i = 1, 2, . . . , m, i f (x ) thuộc epif. Theo tính lồi của tập epif , tổ hợp lồi của các điểm này α1 f (x1 ) + α2 f (x2 ) + . . . + αm f (xm ), với α1 + α2 + . . . + αm = 1, cũng thuộc epif . Do đó, f (α1 x1 + α2 x2 + . . . + αm xm ) ≤ α1 f (x1 ) + α2 f (x2 ) + . . . + αm f (xm ). 7 Khóa luận tốt nghiệp Đại học Trịnh Thị Thanh Hiếu Bổ đề 1.6. Nếu các hàm fi , i = 1, 2, . . . , m, là lồi, thì với mọi c1 ≥ 0, c2 ≥ 0, . . . , cm ≥ 0 hàm f (x) = c1 f1 (x) + c2 f2 (x) + . . . + cm fm (x) lồi. Chứng minh. Vì (1.1) đúng với mỗi fi , ta có thể nhân các bất đẳng thức của chúng với ci và cộng lại ta được kết quả cần chứng minh. Một hàm f : Rn → R được gọi là nửa liên tục dưới, nếu với mỗi chuỗi hội tụ của các điểm xk thì ta có f ( lim xk ) ≤ lim inf f (xk ). k→∞ k→∞ Bổ đề 1.7. Một hàm f : Rn → R nửa liên tục dưới nếu và chỉ nếu tập epif là một tập đóng. Chứng minh. Xét một dãy các điểm (xk , αk ) thuộc epif , và giả sử xk → x và αk → α, khi k → ∞. Nếu f nửa liên tục dưới, thì f (x) ≤ lim inf f (xk ) ≤ lim αk = α, k→∞ k→∞ suy ra (x, α) ∈ epif . Giả sử tập epif đóng, nhưng f không nửa liên tục dưới. Khi đó tồn tại một dãy xk ⊂ Rn hội tụ đến một số điểm x ∈ Rn sao cho f (x) > lim f (xk ), k→∞ ở đó giới hạn bên phải có thể là −∞. Khi đó, ∃ε > 0 sao cho f (xk ) < f (x) − ε với mọi k đủ lớn. Do đó (xk , f (x) − ε) ∈ epif 8 Khóa luận tốt nghiệp Đại học Trịnh Thị Thanh Hiếu với mọi k đủ lớn. Vì tập epif đóng nên điểm giới hạn (x, f (x) − ε) là một phần tử của tập epif. Tức là f (x) − ε ≥ f (x), mâu thuẫn. Do đó f phải nửa liên tục dưới. Bổ đề 1.8. Nếu f : Rn → R là hàm lồi, thì với mỗi β ∈ R tập Mβ = {x : f (x) ≤ β} (1.2) là tập lồi. Hơn nữa, nếu f nửa liên tục dưới, thì tập Mβ là tập đóng với mọi β. Chứng minh. Nếu x ∈ Mβ và y ∈ Mβ , thì theo Bổ đề 1.2, f (αx + (1 − α)y) ≤ αf (x) + (1 − α)f (y) ≤ β, vì vậy αx + (1 − α)y ∈ Mβ . Nếu f nửa liên tục dưới, tập epif đóng (theo Bổ đề 1.7). Xét tập trong Rn × R: Mβ × {β} = epif ∩ {(x, β) : x ∈ Rn }. Tập trên đóng vì epif đóng. Do đó tập Mβ đóng. Tập Mβ ở trên được gọi là tập mức dưới của f . Một hàm có các tập p mức dưới lồi thì chưa chắc lồi, chẳng hạn f (x) = |x|, x ∈ R. Bổ đề 1.9. Cho X ⊂ Rn là một tập lồi và f : Rn → R là một hàm lồi. b các nghiệm của bài toán tối ưu Khi đó tập X min f (x) x∈X 9 Khóa luận tốt nghiệp Đại học Trịnh Thị Thanh Hiếu là tập lồi. b rỗng nên Chứng minh. Nếu bài toán tối ưu không có nghiệm, thì tập X b lồi. Cho X b 6= ∅ và x b β = f (b tập X b ∈ X, x). Khi đó b = X ∩ Mβ X b là tập với Mβ được xác định bởi (1.2). Theo [3, Lemma 2.2], tập X lồi. 1.2 Hàm lồi trơn Kí hiệu ∇f (x) cho gradient của hàm f tại x,   ∂f (x)  ∂x1   ∂f (x)   ∂x   2  ∇f (x) =  .  .  ..    ∂f (x) ∂xn ở đây x1 , x2 , . . . , xn biểu thị tọa độ của vector x. Định lý 1.1. Giả sử rằng hàm f khả vi liên tục. Khi đó (i) f lồi nếu và chỉ nếu với mọi x và y f (y) ≥ f (x) + h∇f (x), y − xi; (1.3) (i) f lồi chặt nếu và chỉ nếu với mọi x 6= y f (y) > f (x) + h∇f (x), y − xi. 10 (1.4) Khóa luận tốt nghiệp Đại học Trịnh Thị Thanh Hiếu Chứng minh. (i)Giả sử f lồi, và tồn tại x, y với ε > 0 sao cho f (y) ≤ f (x) + h∇f (x), y − xi − ε. Ta xét z = αy + (1 − α)x với 0 < α < 1. Theo Bổ đề 1.2, ta có f (z) ≤ αf (y) + (1 − α)f (x) ≤ f (x) + αh∇f (x), y − xi − αε. hay f (z) − f (x) ≤ αh∇f (x), y − xi − αε. Chia cả hai vế cho α ta được f (z) − f (x) ≤ h∇f (x), y − xi − ε. α (1.5) Có z = αy + (1 − α)x nên z = x + αd với d = y − x. Cho α ↓ 0, khi đó lim α↓0 f (z) − f (x) f (x + αd) − f (x) = lim = f 0 (x; d) = h∇f (x), di. α↓0 α α Điều này mâu thuẫn với (1.5). Vậy f lồi thì với mọi x và y f (y) ≥ f (x) + h∇f (x), y − xi. Ngược lại, giả sử với mọi x và y có f (y) ≥ f (x) + h∇f (x), y − xi. Ta đi chứng minh f là hàm lồi. Thật vậy, giả sử y, z là các điểm tùy ý, y 6= z, và x = αy + (1 − α)z với α ∈ (0, 1). Khi đó, theo giả thiết ta có f (y) ≥ f (x) + h∇f (x), y − xi, f (z) ≥ f (x) + h∇f (x), z − xi. 11 Khóa luận tốt nghiệp Đại học Trịnh Thị Thanh Hiếu Nhân các bất đẳng thức này lần lượt với α và 1 − α, và cộng lại ta được αf (y) + (1 − α)f (z) ≥ f (x), Thay x = αy + (1 − α)z ta được αf (y) + (1 − α)f (z) ≥ f (αy + (1 − α)z), Suy ra f là hàm lồi. (ii) Nếu f lồi chặt, thì f lồi và (1.5) đúng. Ta đi chứng minh bất đẳng thức (1.5) là chặt, nếu y 6= x và α ∈ (0, 1). Giả sử f (y) = f (x) + h∇f (x), y − xi. Cho z = 21 x + 21 y. Vì f lồi chặt nên f (αx + (1 − α)y) < αf (x) + (1 − α)f (y). Khi đó, ta có 1 1 1 1 1 f (z) = f ( x + y) < f (x) + f (y) = f (x) + h∇f (x), y − xi. (1.6) 2 2 2 2 2 Cho v = βx + (1 − β)z với 0 < β < 1. Tương tự ta được 1 f (v) < βf (x) + (1 − β)f (z) < f (x) + (1 − β)h∇f (x), y − xi. 2 Vì v − x = (1 − β)(z − x) = 21 (1 − β)(y − x), bất đẳng thức trên trở thành f (v) < f (x) + h∇f (x), v − xi, mâu thuẫn với (1.5), nên giả sử sai. Vậy f (y) > f (x) + h∇f (x), y − xi với mọi y 6= x. Ngược lại, ta chứng minh tương tự (i). Nếu f : Rn → R lồi và khả vi tại x thì f (y) ≥ f (x) + h∇f (x), y − xi 12 Khóa luận tốt nghiệp Đại học Trịnh Thị Thanh Hiếu với mọi y ∈ Rn . Nếu f lồi chặt, thì f (y) > f (x) + h∇f (x), y − xi với mọi y ∈ Rn . Ví dụ 1.5. Xét hàm f : Rn → R được định nghĩa như dạng toàn phương, f (x) = hx, Axi, ở đó A là một ma trận đối xứng. Hàm f lồi nếu và chỉ nếu A là ma trận nửa xác định dương, và f lồi chặt nếu và chỉ nếu A là ma trận xác định dương. Thật vậy, ∇f (x) = 2Ax, và với mọi x và y ta có phương trình f (y) − f (x) − h∇f (x), y − xi = hy, Ayi − hx, Axi − 2hAx, y − xi = hy, Ayi + hx, Axi − 2hAx, yi = hy − x, A(y − x)i. Các biểu thức ở phía bên phải không âm với mọi x, y nếu và chỉ nếu A nửa xác định dương. Biểu thức này là dương với mọi y 6= x nếu và chỉ nếu A xác định dương. 1.3 Đạo hàm theo hướng Trong rất nhiều các ứng dụng, chúng ta thường gặp các hàm không trơn. Chẳng hạn, chuẩn Euclide không khả vi tại 0 kxk = n X j=1 13 !1/2 x2j . Khóa luận tốt nghiệp Đại học Trịnh Thị Thanh Hiếu Trong thực tế, không chuẩn nào là khả vi tại 0. Một số chuẩn, chẳng hạn kxk1 = n X |xj | hoặc kxk∞ = max |xj | 1≤j≤n j=1 không khả vi tại rất nhiều điểm. Các hàm không trơn rất phổ biến trong các mô hình tối ưu. Khái niệm gradient của một hàm trơn có thể được tổng quát cho trường hợp các hàm không trơn, nói riêng cho các hàm lồi không trơn. Để hiểu cách xây dựng này, trước hết chúng ta nhắc lại một số tính chất quan trọng của các hàm lồi. Bổ đề 1.10. Cho f : Rn → R là một hàm lồi. Với mỗi x ∈ int domf tồn tại δ > 0 và L sao cho |f (y) − f (x)| ≤ Lky − xk khi ky − xk < δ. Cho f : Rn → R là một hàm lồi và cho x ∈ domf . Khi đó với mỗi d ∈ Rn đại lượng f 0 (x; d) = lim τ ↓0 f (x + τ d) − f (x) , τ (1.7) được gọi là đạo hàm theo hướng d của f tại x. Bổ đề 1.11. Với mỗi x ∈ domf và mỗi d ∈ Rn giới hạn trong (1.7) tồn tại (hữu hạn hoặc vô hạn). Nếu x ∈ int domf , khi đó f 0 (x; d) là hữu hạn với mọi d. Chứng minh. Xét thương Q(τ ) = f (x + τ d − f (x)) . τ 14 Khóa luận tốt nghiệp Đại học Trịnh Thị Thanh Hiếu Nếu f (x + τ d) = +∞ với mọi τ > 0, thì Q(τ ) = +∞ với mọi τ > 0 và f 0 (x; d) = +∞. Nếu f (x + τ d) < +∞ với một số τ0 > 0, thì theo tính lồi của f suy ra f (x + τ d) < +∞ với mọi 0 < τ < τ0 và Q(τ ) được xác định với các τ này. Cho 0 < τ1 < τ2 < τ0 . Ta có x + τ1 d = (1 − τ1 τ1 )x + (x + τ2 d). τ2 τ2 Theo tính lồi của f ta được f (x + τ1 d) ≤ (1 − τ1 τ1 )f (x) + f (x + τ2 d), τ2 τ2 có thể viết lại như sau f (x + τ1 d) − f (x) ≤ τ1 [f (x + τ2 d) − f (x)]. τ2 Chia cả hai vế cho τ1 ta thấy các thương là đơn điệu: Q(τ1 ) ≤ Q(τ2 ) với mọi 0 ≤ τ1 ≤ τ2 . (1.8) Do đó giới hạn trong (1.7) tồn tại (hữu hạn hoặc bằng −∞). Theo tính đơn điệu của Q(·) suy ra f 0 (x; d) ≤ Q(τ ) với mọi τ > 0 Nếu x ∈ int domf , theo Bổ đề 1.10 suy ra với mọi τ đủ nhỏ |Q(τ )| = |f (x + τ d) − f (x)| ≤ Lkdk, τ và do đó giới hạn của Q(τ ) với τ ↓ 0 phải hữu hạn. 15 (1.9)