Combinatorische optimalisatie · Python / PyTorch · GPU

Frequenties zonder storing

Het Radio Link Frequency Assignment Problem: geef honderden radioverbindingen elk een frequentie, zodat verbindingen die dicht bij elkaar liggen elkaar niet storen. Dit project lost de elf klassieke CELAR-instanties op met een memetisch genetisch algoritme dat de hele populatie tegelijk op de GPU doorrekent. Hieronder draait dezelfde logica, naar JavaScript geport, in je browser.

11
CELAR-instanties, 200 tot 916 verbindingen en tot 5.744 constraints
2
instanties op de beste bekende waarde: scen04 (46 frequenties, optimaal) en scen10 (31.516)
0,4%
boven het bewezen optimum van scen06 (3.402 tegen 3.389)
20.000
individuen per generatie, als één tensor op een RTX 3070 Ti
Live demo

Draai het algoritme in je browser

Kies een instantie; de instellingen springen naar de aanbeveling uit de handleiding voor dat doel. Het algoritme rekent in een Web Worker op één CPU-thread, met een populatie van honderden in plaats van tienduizenden. Toch haalt scen10 hier binnen 20 seconden de beste bekende waarde (31.516) en scen04 het optimum van 46 frequenties; de andere instanties komen minder ver dan op de GPU. Er gaat niets naar een server.

Generatie
–
Beste kosten ooit
–
Schendingen
–
Frequenties · grootste
–
Diversiteit
–
Snelheid
–
Poging
–
Tijd
–
Kosten per generatie beste van de poging beste ooit gemiddelde populatie

Met een tweede doel is de fitness schendingskosten × schaal + doelwaarde; een geldige oplossing kost precies het aantal frequenties of de grootste frequentie. Verticale streepjes: herstart.

Genetische diversiteit1 = zo divers als een willekeurige populatie, 0 = alle individuen gelijk
Frequentiespectrum van de beste oplossingverschijnt tijdens de run

Kostenopbouw

Het oordeel over de beste oplossing verschijnt tijdens de run.

OnderdeelAantalGewichtBijdrage
Nog geen run.

Beide bestanden hebben het formaat van celar_ui.py: het parameterbestand laad je daar met Laad parameters om de run op de GPU te herhalen.

Geschonden constraints

VariabelenVerschil, eisKlasse
Nog geen run.
Het probleem

Elf instanties uit een echt radionetwerk

Een militair radionetwerk bestaat uit honderden verbindingen. Elke verbinding krijgt een frequentie uit een eigen domein van toegestane waarden. Twee soorten constraints koppelen paren verbindingen, steeds over het verschil van hun frequenties:

|fx − fy| > k    dichtbij: genoeg afstand
|fx − fy| = k    heen/terug: vaste afstand

Alleen de eerste soort maakt het probleem al NP-moeilijk: het bevat het kleuren van grafen. De Franse defensie-organisatie CELAR stelde in het Europese project CALMA elf instanties beschikbaar, afgeleid van een echt netwerk. Ze zijn sindsdien een standaardbenchmark voor genetische algoritmen, tabu search, simulated annealing en exacte methoden.

Een instantie is een map met vier tekstbestanden: var.txt (verbindingen, met eventueel een bestaande frequentie en hoe duur wijzigen is), dom.txt (domeinen), ctr.txt (constraints met een gewichtsklasse 0–4) en cst.txt (het doel en de gewichten a1–a4, b1–b4).

Voorbeeld van een constraintgraaf |414 − 652| = 238 ✓ > 8 ✓ |652 − 666| = 14, > 56 ✗ > 42 ✓ 414 652 470 666
Elke cirkel is een verbinding met zijn frequentie, elke lijn een constraint. De rode is geschonden: het algoritme zoekt de toewijzing waarin de gewogen schendingen het kleinst zijn.

Vier soorten doelen

  • Aantal frequenties scen01–04, 11alle constraints zijn te voldoen; gebruik daarbij zo weinig mogelijk verschillende frequenties
  • Grootste frequentie scen05alle constraints voldoen, met een zo laag mogelijke hoogste frequentie
  • Gewogen schendingen scen06–08er bestaat geen oplossing zonder schendingen; minimaliseer a1·n1 + … + a4·n4
  • Schendingen + wijzigingen scen09, 10alle verbindingen hebben al een frequentie; elke wijziging kost b1–b4, 280 liggen vast
InstantieVar.Constr.DoelBeste bekend

Bron: celar.blurb (Thomas Schiex, 1998). * = bewezen optimaal.

Het algoritme

Een genetisch algoritme met lokale zoekstappen

Een individu is een rij genen: per verbinding de index van zijn frequentie in zijn domein. Daardoor is elke combinatie van twee ouders altijd een geldige toewijzing. De hele populatie staat als één matrix op de GPU; elke operator werkt op alle individuen tegelijk, zonder Python-lus over individuen of variabelen.

1Evaluatiealle constraints van alle individuen in één tensorbewerking
2Selectieelite plus toernooi van tk individuen
3Crossoveruniform, of blokken langs de constraintgraaf
4Mutatiegericht op schendingen, met slimme waardekeuze
5Zoekstappentabu, frequentie-zoekstap en ejection chain op de besten
6Beheerdiversiteit, immigranten, herstart bij stagnatie

Kostenfunctie

De som van de gewichten van de geschonden constraints plus de wijzigingskosten. Een harde schending kost 1 + alle zachte gewichten samen, zodat hard altijd voor zacht gaat. Bij een tweede doel: kosten × schaal + doelwaarde.

Blokkencrossover

De constraintgraaf wordt met een BFS-golf vanuit willekeurige zaden in aaneengesloten blokken verdeeld; elk blok komt van één ouder. Een gen dat in die ouder een harde constraint schendt, komt van de andere. beste op scen06–08

Gerichte, gewogen mutatie

Muteer alleen variabelen die schenden, met een kans evenredig met penaltye. Bij scen07 lopen de gewichten van 1 tot 10⁶; met exponent 0,35–0,4 krijgen lichte schendingen ook een beurt.

Slimme waardekeuze

Een gemuteerd gen krijgt niet een willekeurige waarde, maar de goedkoopste uit zijn domein gegeven de huidige frequenties van zijn buren. Op de GPU: een tensor (mutaties × domein × constraints).

Tabu-zoekstap

Voert steeds de beste zet uit over alle conflicterende variabelen en waarden, ook als die slechter is. Terugkeren naar de oude waarde is een tijd verboden, behalve bij een nieuw record (aspiratie).

Ejection chain

Verplaatst een schendende variabele naar zijn beste andere waarde en "eject" dan een buur die daardoor in conflict komt, enzovoort. Vindt gekoppelde wijzigingen die één mutatie niet vindt. beste resultaten

Frequentie-zoekstap

Voor het tweede doel: verhuis variabelen van zelden gebruikte naar vaak gebruikte frequenties (of naar lagere), zonder nieuwe schendingen. Zo loopt de zeldzaamste frequentie leeg. Gulzig, dus kan blijven steken.

Herstart bij stagnatie

Bij scen07 lag de uitkomst van een poging rond generatie 40 vast (rangcorrelatie +0,98 met het eind). Een poging die dan meer dan 2× boven de beste eerdere staat, wordt afgebroken: ~1,8× minder generaties.

Resultaten

Dicht bij het optimum waar het om kosten gaat

Beste eigen resultaat per instantie, met celar_ga.py op de GPU (populatie 12.000–20.000, 20 seconden tot 11 minuten per run), tegenover de beste bekende waarde uit de literatuur. Bij de kosteninstanties (scen06–10) zit het algoritme binnen 3,2% van het beste bekende resultaat, behalve scen08. Bij het minimaliseren van het aantal frequenties is de afstand groter: daar is de gulzige frequentie-zoekstap de zwakke plek.

Afstand tot de beste bekende waardeper instantie, in procenten · scen05 en scen11 ontbreken (geen vergelijkbare run)
InstantieDoelEigen resultaatBeste bekendVerschil

Eén run zegt weinig

Op scen07 gaf dezelfde instelling met seed 13, 15 en 14 respectievelijk 0,61, ongeveer 1,6 en ongeveer 3 miljoen. Vergelijk instellingen daarom op de verdeling van de pogingen (mediaan, aandeel onder een drempel), niet op het beste getal.

De a1-drempel is de echte muur

Bij scen07 kost één a1-schending 10⁶. In de eerste herstartrun eindigden 9 van de 11 pogingen daarboven; gepoold over 33 pogingen kwam ongeveer 6% eronder. Pas daaronder gaat het om de 34 a2-schendingen van het optimum.

Ketens wonnen van tabu

De doorbraak op scen07 (van 4,7 miljoen naar 395.741) kwam met de ejection chain en herstart bij stagnatie, zonder tabu. Daarna is die combinatie de basis geworden voor alle andere instanties.

Zelf draaien

Op je eigen GPU

Het project bestaat uit celar_ga.py (het algoritme, ook als command line) en celar_ui.py (een Streamlit-interface met dezelfde instellingen als hierboven, live grafieken, kostenopbouw en downloads). Nodig: Python met numpy, torch en streamlit; voor de GPU een PyTorch met CUDA.

# interface
pip install streamlit numpy torch
streamlit run celar_ui.py

# of direct, bijvoorbeeld scen07
python celar_ga.py CELAR/scen07 --device auto \
  --pop 12000 --gens 1300 --tk 3 --elite 3 \
  --gerichte-mutatie --gewogen-mutatie --gewicht-exponent 0.4 \
  --blokken-crossover --aantal-blokken 11 \
  --ejectie --ec-starts 16 --ec-diepte 9 \
  --herstart --herstart-na 22

De oplossing komt in oplossing.txt, per regel variabele frequentie.

Python op de GPU tegenover deze demo

celar_ga.pyBrowser
RekenenPyTorch, hele populatie als tensorJavaScript, per individu, één thread
Populatie12.000–20.000100–400
Crossoveruniform, blokken, fasen, eilandenuniform, blokken
Zoekstappentabu, ejection chain, frequentiedezelfde, met incrementele zetkosten
Toevaltorch.Generatormulberry32: andere getallen bij dezelfde seed
Kostenfunctieidentiek: alle opgeslagen Python-oplossingen geven in JavaScript exact dezelfde score

Meer details staan in de gebruikershandleiding (instellingen per doel, werkwijze per instantie, problemen oplossen) en de technische documentatie (tensorvormen, geheugen, rekenkosten per operator).