�ݺ�ߣ

Thuật toán Gen Trần Cao Trưởng Khoa CNTT-Học viện KTQS

Nội dung Thuật toán Gen Các thành phần cơ bản của thuật toán gen Các khuyến cáo khi sử dụng thuật toán gen Ưu và nhược điểm của thuật toán gen Demo chương trình

Thuật toán Gen (GAs) GAs (John Holland) mô phỏng tiến hóa tự nhiên (Darwinian Evolution) ở mức gen sử dụng tư tưởng của survival of the fittest Một cá thế ( chromosome ) mô tả một lời giải ứng viên của bài toán. Một tập các cá thể "alive“, gọi là quần thể ( population) được tiến hóa từ thế hệ này tới thế hệ khác phụ thuộc vào sự thích nghi của các cá thể Hope: Thế hệ sinh ra sẽ chứa lời giải của bài toán

Sinh ra thế hệ khởi tạo với quần thể P(0), chỉ số i chỉ ra thế hệ thứ i Lặp cho đến khi quần thể hội tụ or tiêu chuẩn kết thúc đạt được Đánh giá độ thích nghi của mỗi cá thể trong P( i ) Lựa chọn các cha từ P( i ) dựa trên độ thích nghi của chúng trong P( i ) Áp dụng các toán tử Gen (crossover, mutation) từ các cha đã chọn để sinh ra các con ( offspring) Đạt được thế hệ tiếp theo P( i + 1) từ các con và các cá thể ở thế hệ P( i ) Thuật toán Gen

Procedure GA begin t := 0 ; initialize P(t) ; evaluate P(t) ; while (not termination-condition) do begin t := t + 1 ; select P(t) from P(t-1) ; alter P(t) ; evaluate P(t) ; end end Cấu trúc của GA Step 0 : Initialization Step 1 : Selection Step 2 : Crossover Step 3 : Mutation Step 5 : Termination Test Step 6 : End Step 4 : Evaluation

Mã hóa (encoding) Khởi tạo quần thể(innitial population generation ) Hàm thích nghi (fitness Function) Lựa chọn cho sự kết hợp lại (Selection for recombination) Lai ghép (Crossover) Đột biến (Mutation) Chiến lược thay thế (Replacement Strategy) Tiêu chuẩn kết thúc (Termination Criteria) Các thành phần cơ bản của GAs

Bài toán Knapsack 01 Bạn chuẩn bị đi picnic Và bạn có một số các vật mà bạn có thể cầm theo Mỗi vật có một weight và một benefit hay value. Có một cái túi giới hạn weight bạn có thế cầm theo Mỗi vật chỉ được chọn tối đa 1 lần Bạn muốn cầm các vật mang theo với max benefit Mô tả bài toán:

Bài toán Knapsack 01 Đồ vật: 1 2 3 4 5 6 7 Giá trị: 5 8 3 2 7 9 4 T.lượng: 7 8 4 10 4 6 4 Khối lượng tối đa có thể mang là 22 pounds Xếp đồ vật để có giá trị lớn nhất Example:

Problem: Một người bán hàng cần ghé qua tất cả các thành phố, mỗi thành phố một lần và trở lại thành phố ban đầu . Có chi phí di chuyển giữa tất cả các thành phố. Tìm hành trình có tổng chi phí nhỏ nhất Bài toán TSP 5 1 3 2 4 14 12 11 23 8 10 6

Encoding Mã hóa nhị phân (Binary encoding) là kiểu thông dụng nhất bởi vì: nghiên cứu đầu tiên về thuật toán Gen sử dụng kiểu mã hóa này và bởi vì nó đơn giản Trong mã hóa nhị phân, mọi nhiễm sắc thể là chuỗi bits - 0 or 1 . Chromosome A 101100101100101011100101 Chromosome B 111111100000110000011111 Mã hóa nhị phân đưa ra nhiều khả năng của nhiễm sắc thể với một số lượng nhỏ các alen Các mã hóa này thường không tự nhiên cho nhiều bài toán và thỉnh thoảng sai sau khi thự hiện các phép toán crossover and/or mutation.

Bài toán Knapsack 01 Encoding: 0 = not exist, 1 = exist in the Knapsack Chromosome: 1010110 => Items taken: 1, 3 , 5, 6. Generate random population of n chromosomes: 0101010 1100100 0100011 7 6 5 4 3 2 1 Item. 0 1 1 0 1 0 1 Chro n y y n y n y Exist?

Permutation Encoding Permutation encoding có thể sử dụng để giải quyết các bài toán có thứ tự như: Người bán hàng Trong permutation encoding, tất cả các NST là chuỗi các số biểu diễn vị trí trong một dãy. NST A 1 ��5 ��3 ��2 ��6 ��4 ��7 ��9 ��8 NST B 8�� 5 ��6 ��7 ��2 ��3 ��1 ��4 ��9 Permutation encoding được sử dụng trong các bài toán có thứ tự. Trong một vài trường hợp, việc hiệu chỉnh lai ghép và đột biến phải thực hiện để tạo ra NST phù hợp

Path Representation 5 1 3 2 4 14 12 11 23 8 10 6 1 5 3 2 4 chromosome (individual) gene

Value Encoding VE được sử dụng trong các bài tóan mà việc mã hóa nhị phân là khó thực hiện ( Ví dụ như các bài tóan mà giá trị là các số thực). Trong VE mỗi chromosome là một chuỗi các giá trị có thể nhận dạng bất kỳ tùy thuộc vào từng bài tóan cụ thể. Ví dụ giá trị có thể là số thực, ký tự, hoặc một đối tượng nào đó. Chromosome A 1.2324 ��5.3243 ��0.4556 ��2.3293 ��2.4545 Chromosome B ABDJEIFJDHDIERJFDLDFLFEGT Chromosome C (back), (back), (right), (forward), (left) VE là sự lựa chọn tốt đối với một số bài tóan cụ thể. Với kiểu mã hóa này thường sẽ phải xây dựng một số phép lai ghép và đột biến cho các bài tóan cụ thể.

Ví dụ về mã hóa giá trị Bài toán: Cho mạng nơ ron A có cấu trúc đã biết. Tìm trọng số giữa các neurons trong mạng để nhận được kết quả ra mong muốn. Mã hóa: Giá trị thực trong các chromosome biểu diễn các trọng số trong mạng.

Mã hóa dạng cây (Tree Encoding – TE ) TE thường được sử dụng trong các bài tóan hoặc các biểu thức suy luận ví dụ như genetic programming . Trong TE, mỗi chromosome là một cây gồm các đối tượng như là các hàm hoặc các câu lệnh của ngôn ngữ lập trình. TE thường được dùng đối với các bìa tóan suy luận hoặc các cấu trúc có thể biểu diễn bằng cây. Các phép lai ghép và đột biến đối với kiểu mã hóa này cũng tương đối dễ thực hiện. Chromosome A Chromosome B ( + ��x ��( / ��5 ��y ) ) ( do_until ��step ��wall )

Bài toán Knapsack 01 Encoding: 0 = not exist, 1 = exist in the Knapsack Chromosome: 1010110 => Items taken: 1, 3 , 5, 6. Generate random population of n chromosomes: 0101010 1100100 0100011 Start 7 6 5 4 3 2 1 Item. 0 1 1 0 1 0 1 Chro n y y n y n y Exist?

Bài toán TSP 1 5 3 2 4 3 2 4 5 1 2 3 4 1 5 4 5 3 2 1 Population Population size  individual length

0101010: Benefit= 19, Weight= 24 1100100: Benefit= 20, Weight= 19. 0100011: Benefit= 21, Weight= 18. Bài toán Knapsack 01 Fitness => We select Chromosomes b & c.    7 6 5 4 3 2 1 Item 0 1 0 1 0 1 0 Chro 4 9 7 2 3 8 5 Benefit 4 6 4 10 4 8 7 Weight

Bài toán TSP f ( indiv    d i ( i +1) + d n 1 1  i < n 1 5 3 2 4 3 2 5 1 4 2 3 4 1 5 4 5 3 2 1 58 56 55 57 4 5 3 2 1

Các kiểu lựa chọn Các nhiễm sắc thể được chọn từ quần thể là các cha cho lai ghép (crossover). Vấn đề là lựa chọn các nhiễm sắc thể như thế nào Theo thuyết tiến hóa Darwin's những cá thể tốt nhất sẽ được chọn để tạo ra các con ( offspring ). Có nhiều phương pháp để chọn nhiễm sắc thể tốt nhất. Ví dụ là roulette wheel selection Boltzman selection tournament selection rank selection steady state selection and many other sometimes weird methods.

Roulette Wheel Selection Cha được chọn qua độ thích nghi của chúng Nhiễm sắc thể tốt hơn, nhiều ngẫu nhiên hơn phải được chọn Tưởng tượng một roulette wheel nơi tất cả các NST trong quần thể được đặt lên Kích thước của đoạn trong roulete wheel tương ứng với giá trị của hàm thích nghi Một hòn bi được lăn trong roulette wheel và NST nơi nó dừng lại được lựa chọn NST với giá trị thích nghi lớn sẽ được chọn nhiều hơn

Rank Selection Roulette Wheel Selection sẽ có vấn đề khi có sự khác nhau lớn giữa các độ thích nghi Ví dụ: nếu NST tốt nhất có độ thích nghi là 90% thì các NST khác rất ít cơ hội được lựa chọn Rank selection tính hạng quần thể đầu tiên và sau đó mọi NST nhận lại giá trị thích nghi được định nghĩa bởi hạng của chúng NST tồi nhất sẽ có độ thích nghi là 1 , NST tồi thứ hai là 2 etc. và NST tốt nhất sẽ có độ thích nghi là N (number of chromosomes in population).

Roulette Wheel Selection Tiến trình trên có thể được mô tả bởi thuật toán sau: 1. [Sum] Calculate the sum ( S ) of all chromosome fitnesses in population . 2. [Select] Generate random number (r) from the interval (0,S) . 3. [Loop] Go through the population and start summing the fitnesses from 0 – S (call this C). When C is greater then r , stop and return the chromosome where you are.

Rank Selection Trạng thái sẽ thay đổi sau khi độ thích nghi sẽ được thay đổi bới rank Situation before ranking (graph of fitnesses) Situation after ranking (graph of order numbers) Bây giờ tất cả các NST sẽ có một số ngẫu nhiên để lựa chọn

Steady-State Selection Trong tất các thế hệ sẽ có một vài NST tốt (Với độ thích nghi cao) được chọn để tạo NST con mới. Một vài NST tồi (với độ thích nghi thấp) sẽ bị xóa bỏ và các NST con mới sẽ thay thế chỗ của chúng. Phần còn lại của quần thể tạo ra thế hệ mới.

Crossover and Mutation Crossover and mutation là hai phép toán cơ bản của thuật toán gen Sự thi hành thuật toán Gen phụ thuộc rất nhiều vào crossover và mutation Kiểu và sự thể hiện của các toán tử này phụ thuộc vào kiểu mã hóa và cũng phụ thuộc vào bài toán Có nhiều cách để thực hiện toán tử crossover và mutation.

Crossover for Binary Encoding Single point crossover – một điểm crossover được lựa chọn, chuỗi nhị phân từ bắt đầu của NST tới điểm crossover được sao chép từ cha 1, phần cuối được sao chép từ cha còn lại 11001 011+11011 111 = 11001111

Two point crossover Hai điểm crossover được chọn Một chuỗi nhị phân từ bắt đầu của NST tới điểm crossover đầu tiên được sao chép từ cha thứ nhất, phần từ điểm đầu tiên tới điểm thứ hai crossover được sao chép từ cha thứ hai và phần cuối được sao chép từ cha đầu tiên 11 0010 11 + 11 0111 11 = 11011111

Crossover for Binary Encoding Uniform crossover - Các bit được sao chép ngẫu nhiên từ cha thứ nhất hoặc cha thứ hai Arithmetic crossover – Một phép toán được thực hiện để tạo ra con mới (new offspring) 11001011 + 11011111 = 11001001 (LOGICAL AND)

Mutation for Binary Encoding Đảo bit – chọn các bits và đảo ngược giá trị của chúng 1 1 001001 => ��1 0 001001

Crossover for Permutation Encoding Single point crossover – lựa chọn một điểm để lai ghép, the permutation được sao chép từ điểm đầu tiên đến điểm lai ghép, sau đó cha còn lại được duyệt qua từng số và nếu số đó chưa có trong con, nó được thêm theo thứ tự của NST thứ hai ( 1 2 3 4 5 | 6 7 8 9) + (4 5 3 6 2 9 1 7 8 ) = ( 1 2 3 4 5 6 9 7 8) Note: có nhiều cách để tạo ra phần sau điểm lai ghép

Crossover for Permutation Encoding two point crossover – Đầu tiên, chọn hai điểm cắt, biểu thị bởi dấu “|”, điểm cắt này được chen vào một cách ngẫu nhiên vào cùng một vị trí của mỗi mẫu cha mẹ.

Ví dụ : - Có hai mẫu cho mẹ p1 và p2, với các điểm cắt sau thành phố thứ ba và thứ bảy p1 = (1 9 2 | 4 6 5 7 | 8 3) p2 = (4 5 9 | 1 8 7 6 | 2 3) - Hai mẫu con c1 và c2 sẽ được sinh ra theo cách sau. Đầu tiên, các đoạn giữa hai điểm cắt sẽ được chép vào các mẫu con: c1 = (x x x | 4 6 5 7 | x x) c2 = (x x x | 1 8 7 6 | x x)

- Bước kế tiếp là bắt đầu từ điểm cắt thứ hai của một trong hai mẫu cha mẹ, nếu ta đang muốn hoàn tất mẫu c1, thì ta sẽ bắt đầu từ điểm cắt thứ hai của mẫu p2, ta chép các thành phố từ điểm cắt này theo thứ tự vào các chỗ còn trống của c1, bỏ qua những thành phố mà c1 đã có. Khi đến cuối mẫu p2, thì quay lại đầu mẫu p2 tiếp tục chép sang c1 cho đến khi c1 đủ.

Mutation of Permuation Encoding Order changing – hai điểm được lựa chọn và thay đổi (1 2 3 4 5 6 8 9 7) => (1 8 3 4 5 6 2 9 7)

Lai ghép đối với mã hóa giá trị Có thể sử dụng các lai ghép như kiểu mã hóa nhị phân Ví dụ: (back), (back), (right), (forward), (left) (right), (back), (left), (back), (forward ) => (back), (back), (left), (back), (forward )

Đột biến đối với mã hóa giá trị Cộng vào hoặc trừ đi một số nhỏ từ các giá trị đã được chọn Ví dụ: (1.29 ��5.68 �� 2.86 �� 4.11 ��5.55) => (1.29 ��5.68 �� 2.73 �� 4.22 ��5.55)

Crossover for Tree Encoding Tree crossover – Một điểm đột biến được chọn trong cả hai cha, các cha được phân chia bởi điểm đột biến và những phần sau điểm đột biến được thay đổi để tạo ra các con

Đột biến đối với mã hóa dạng cây

Crossover and Mutation Probability Có hai tham số cơ bản của các thuật toán gen - xác suất crossover và xác suất mutation Crossover probability : mức độ thường xuyên crossover được thực hiện Nếu không có crossover, offspring được sao chép chính xác từ cha mẹ. Nếu có crossover, offspring con được tạo ra từ một phần của NST cha Nếu xác suất là 100% , thì tất cả offspring được tạo ra bởi crossover. Nếu là 0% , thế hệ mới tạo ra bằng cách sao chép nguyên các NST của thế hệ cũ Crossover hy vọng tạo ra các NST mới sẽ chứa phần tốt của các NST cũ và như vậy NST mới sẽ tốt hơn

Mutation Probability Mutation probability : Mức độ thường xuyên của các phần sẽ được đột biến Nếu không có mutation, offspring sinh ra sẽ giống sau khi crossover (or directly copied) Nếu mutation được thực hiện,một hay nhiều phần của NST sẽ được thay đổi Nếu xác suất là 100% , thì NST sẽ được thay đổi, nếu là 0% , không có thay đổi gì Mutation sinh ra để tránh thuật toán gen rơi vào cực trị địa phương Mutation should not occur very often, because then the genetic algorithm will change to a random search .

Thuật toán dừng khi quần thể hội tụ, i.e. cá thể tốt nhất trong quần thể giống với kết quả mong muốn Kết thúc khi số thế hệ sinh ra đạt đến số sinh ra trước Kết thúc khi các cả thể trở lên giống nhau Kết thúc khi cá thể tốt nhất trong quần thể không thay đổi theo thời gian Termination Criteria

General Recommendations for Genetic Algorithms Thử nghiệm thuật toán gen cho bài toán cụ thể, bởi vì không có lý thuyết chung có thế làm hợp các tham số của thuật toán gen cho bất cứ bài toán nào Sự giới thiệu thường là kết quả việc học kinh nghiệm của thuật toán gen, cái thường thực hiện chỉ trên mã hóa nhị phân

Recommendations for Genetic Algorithms Crossover rate Tốc độ lai ghép thường là cao, khoảng 80%-95% . (Mặc dù vậy một vài kết quả cho một vài bài toán, tốc độ lai ghép khoảng 60% là tốt nhất.) Mutation rate Xác suất đột biến thường là rất thấp. Tốc độ tốt nhất khoảng 0.5%-1% . Population size Kích thước quần thể rất lớn thường không cải tiến tốc độ của thuật toán gen (in the sense of speed of finding solution). Kích thước tốt khoảng 20-30 , Mặc dù một vài trường hợp khoảng 50-100 thì tốt hơn. Nghiên cứu thấy rằng kích thước của quần thể phụ thuộc vào kích thước của chuỗi mã hóa (chromosomes). Nếu có NST 32 bits, thì kích thước quần thể nên cao hơn 16

Recommendations for Genetic Algorithms Selection roulette wheel selection có thế được sử dụng, nhưng thỉnh thoảng rank selection có thể tốt hơn There are also some more sophisticated methods that change parameters of selection during the running of a genetic algorithm. Elitism should be used if you do not use any other method for saving the best solutions. Encoding Phụ thuộc vào bài toán Crossover and mutation type Phụ thuộc vào mã hóa và bài toán

Ưu điểm Ưu điểm chính là khả năng song song của thuật toán Gas duyệt qua không gian tìm kiếm sử dụng nhiều cá thể (and with genotype rather than phenotype) và ít mắc phải cực trị địa phương như các thuật toán khác Dễ thể hiện Khi đã có thuật toán gen cơ bản, chỉ cần viết một NST mới (just one object) để xử lý bài toán khác Với cùng cách mã hóa bạn có thể thay đổi hàm thích nghi Mặc dù vậy, trong một số trường hợp chọn và thể hiện mã hóa sẽ gặp khó khăn

Nhược điểm Nhược điểm chính của Gas là thới gian tính toán GAs có thể chậm hơn các thuật toán khác Có thể kết thúc tính toán bất cứ lúc nào,

�ݺ�ߣ

Ga

Recommended

More Related Content

Recently uploaded (20)

Featured (20)

Ga