Článok: Hyperthreading...

Pred časom som sa znova stretol s touto technológiou od Intelu a rád by som sa podelil o pár výsledkov...

Hlavný zámer bol zistiť ako môže prispieť či už k čistému výkonu jadra, alebo aplikácie. Meral som vyťaženie CPU (pomocou Windows Task manageru) a k testovaniu som použil niekolko jednoduchších aplikácií. Výkon CPU bol meraný pomocou prográmku TestCPU 0.96 pričom za klúčovú hodnotu bol výkon FPU v megaflopoch.

P4:

V prvom rade som si na mušku zobral Pentium 4 ako jednojadrového zástupcu tejto technológie a skúsil niekolko aplikácií - či už jedno alebo viacthreadových.

Výkon celého jadra (merané bez HT) pri 3ghz frekvencii a 2mb cache je okolo 430 Megaflops.

Jednothreadová aplikácia prakticky dokázala využiť len jedno virtuálne jadro, čo nieje nič prekvapujúce. Vo vzťahu k výkonu CPU (hrubému výkonu) je to však negatívne pretože aplikácia tak 50 percent času nerobila nič a všetky akcie bežiace priamo na jadre tak zabrali dvojnásobok času.

Dvojthreadové aplikácie dokázali využiť jadro na sto percent bez nejakého následku.

Prakticky možný dopad na stabilitu systému kedy by pri jednej zacyklovanej aplikácii (spadnutá aplikácia ktorá vyťaží jadro na 100 percent) by mohol byť ten že systém sa hned nezloží, avšak za týchto situácií boli skôr pozorované velmi nepríjemné chyby na velmi nízkej systémovej úrovni - velmi podobné aké by ste videli pri zle pretaktovanom počítači.

Core I7:
Jadro ako také obsahuje 4 fyzické procesory, pričom hyperthreading z nich spraví 8 virtuálnych. Výkon jediného procesoru môže byť až cez 1300 megaflops podla verzie a frekvencie.

Hyperthreading funguje u tohoto CPU rovnako - to značí virtuálne zdvojí procesory na nízkej SW úrovni, čím ich virtuálne budete mať osem.

I7 sa svojím hrubým FPU výkonom od P4 líši značne. Dve P4 bez HT by mali čo robiť aby sa vyrovnali jednému jadru I7 s HT. Praktický dopad je ten že I7 lepšie znáša multiplikovanie jadier. Kdežto na P4 s HT jednothreadová aplikácia využila maximálne 215 Megaflops jadra, u I7 HT to môže byť až 650 megaflops.

Dopad na výkon aplikácií v tomto smere môže bývať velmi zásadný. Aplikácie s viac threadmi môžu mať rozličné nároky na CPU. Thread 0 môže na CORE 0 využívať 100 percent prostriedkov pričom ak by bolo viac výkonu využil by ho tiež, avšak Thread 1 na CORE 1 bude využívať povedzme 10 percent celkového výkonu jadra.

Obecne platí že čím vyšší hrubý výkon má jedno jadro celého CPU tým vyšší výkon je možné dosiahnuť. Hyperthreading však tento potenciálny výkon znižuje. Na druhej strane, pokial máme viacvláknovú aplikáciu ktorá využíva menej než 50 percent času jedného CPU v najnáročnejšom threade tak Hyperthreading uvolní časť výkonu inému threadu ktorý môže začať bežať paralelne v rovnakom čase.

To isté platí aj v prípade ak je 100 percent využitia jadra neefektívne pretože aplikácia produkuje vizuálne rovnaké výsledky. Ako príklad si predstavte aplikáciu ktorej Thread 0 je 3d renderer ktorý generuje wireframe pre GPU. Pokial renderer generuje napríklad 500 FPS, z ktorých grafika zobrazí 100 tak použitie HT nebude mať na výkon aplikácie žiadny dopad, prípadne ak by grafika tolko FPS aj zobrazila tak ludské oko rozdiel medzi 250 a 500 FPS nepozná (ak náhodou zoženiete tak výkonnú zobrazovaciu techniku).

Záver:
V ére p4 procesorov bol Hyperthreading značne neefektívny. V dnešnej dobe jeho použitie konečne má zmysel, avšak stálo by za uváženie umožniť nastavenie či a ktoré jadrá budú HT používať. Optimalizácia aplikácií v tomto smere môže značne pokrivkávať. Využitie jedného fyzického jadra bez HT pre nejaký náročný thread, a dalších troch s HT pre menej náročné thready aplikácie môže prispieť k rapídnemu optimalizovaniu výkonu.

V tomto smere ponúkajú riešenia bez HT vyšší hrubý výkon jedného jadra, riešenia s HT ponúkajú vyšší potenciál k jeho optimalizovaniu výkonu a efektívnejšiemu používaniu. Bohužial hybridné riešenie som zatial v praxi nemal možnosť nijak vyskúšať.

Zdravim,
asi by to chtelo nejdrive zacit s zjistenim toho, co vlastne takovy Hyperthreading dela.
Vzhledem k tomu, cos tu sepsal, bohuzel nemas vubec predstavu o tom, z ceho je slozen procesor a jakym zpusobem toho HT vyuziva, takze veskere zavery tady jsou bohuzel chybne.

Hyperthreading nijak virtualne jadro nerozdeluje na dve s tim, ze by v pripade jednothreadove aplikace byla polovina jadra nedostupna. V pripade jednoho vlakna se jadro vyuziva stale stejne nezavisle na tom jestli je HT zapnute nebo ne. Hyperthreading umi pouze navic vyuzit casti jadra, ktera v tu chvili vyuzivana nejsou, pro dalsi vlakno (v procesory jsou napriklad jednotky pro cela cisla a desetinna cisla, pokud jedno vlakno pocita s celymi cisly, tak jednotka pro desetinna cisla nic nedela a hyperthreading toho muze vyuzit).

Jediny problem v pripade HT je ten, ze je potreba dalsich ridicich obvodu, ktere budou kontrolovat dostupnost volnych prostredku a pripadne hazardy, takze takovy procesor je o neco slozitejsi.

HT má bohužel občas stále negativní dopad na výkon, hlavně u aplikací co jsou schopny obsadit všechny jádra a nepočítaj s tím že by se tím ale některá z nich zpomalily.

V mnoha hrách má HT na výkon negativní vlivl. Třeba na MACu je to dokonce hodně velkej problém, protože tam se aplikace dělaj pořádně aka optimalizuje se hezky na architekturu CPU. I5 bez HT tam má občas větší výkon než I7 s HT.

HT vítězí hlavně tam, kde je to šmejdskej kód neschopnej využít potenciál jádra, ale je hodně multithreadovej, tam se HT opravdu vyplácí, jinak ne.

Ja by som povedal, ze HT ma velmi uzke a specificke vyuzitie (aspon zatial). Z pohladu 3D rendererov (V-ray, Maxwell, Advanced rendered 3), je HT velmi slusny bonus. Inak som nikde inde nepostrehol navysenie vykonu. Rozhodne to nie je vseliek.

Ani tam by to správně nemělo mít přínos. Tam se projevuje že je ten kód evidentně napsán pro P6 architekturu a Nehalem má prostě víc IPC a tudiž se tam nevyužívá naplno, tudiž HT tam má přínos.

to Monsoon:
O tom ze kazde cpu je zlozene z roznych mensich celkov ako FPU a tak podobne samozrejme viem. Detaily toho ako HT riadi a deli beh programu su trochu mimo mna, ale ako spatna vazba mi sluzi chovanie Windows (holt co uz so mnou). Viem aj to ze prostriedky CPU su dostupne cely cas, avsak je to OS ktory "moderuje" pristup k nim.

To chovanie je typicky take, ze windows sa pri HT P4 chova ako keby videl dva procesory. Nasledne uz ale velmi neviem o tom akou formou sam OS optimalizuje chod beziacich procesov, pripadne ako procesy su sami o sebe optimalizovane.

Z praxe s 1, 2 a 4 jadrovymi procesormi zatial viem ze u 1 jadroveho viem dosiahnut sice nizku bezpecnost behu aplikacie, ale velmi vysoku efektivitu behu - v zmysle jedno jadro bezi co to da a nicim sa nezdrzuje. Moznost vady v kode znamena ze mozno dojde k zacykleniu ktore so sebou vezme cely system.

P4 v tomto velmi nezaostavalo a HT na tom vela nezmenil. Faktom ale je ze moznost efektivneho vyuzivania jadra je sice vyssia, ale hruby vykon jadra to degraduje prave to ze viacthreadove aplikacie by museli thready delit na viac skupin podla toho co pocitaju, a aka cast CPU sa k tomu vyuziva najviac. Ako som uz spomenul sice ziskam moznost naraz vyuzivat virtualne dalsie jadro (resp ine casti toho isteho fyzickeho jadra), ale v globale to ma svoju dan. Windows sice HT podporuje, ale nie takou formou aby HT samo o sebe bolo pre chod systemu prinosom.

Samozrejme ak aplikacia je tak dobre nakodena ze rozne procesy su urcene roznym castiam procesoru je naozaj mozne dosiahnut vyrazne vyssie vykony pri tom istom CPU s HT on.

Problem je ale dost zasadny v tom ze mnoho aplikacii sice viacvlaknovych je, ale ich optimalizacia je katastroficka aj pre chod na multiprocesorove riesenia, kde thready netreba delit podla toho akej casti procesoru idu - proste nech idu na dalsom fyzickom jadre. Je jednoduchsie optimalizovat aplikaciu pre multithread nez pre hyperthread, no napriek tomu mnoho programov nevie vyuzit viac nez 60-70 percent mozneho potencialu dvojjadrovych procesorov.

Pouzitie nadbytkoveho hardware (povedzme 4 az 16 fyzickych procesorov) to nedokaze odburat tou formou ze "performance issue" sa neprejavi nikdy lebo mame dost vykonu na saturaciu narokov aplikacie. V poslednom obdobi je bohuzial tento trend (od roku 2006-8 kedy sa zacali rozsirovat viacjadrove CPU) este vyraznejsi.

Mnoho viacvlaknovych aplikacii ma nevyvazene naroky na CPU. Jeden thread bezi na 100 percentach, druhy na 10, bohuzial OS ako windows este viac znizuju moznosti ake by HT mohol mat.

Holt u Nehalemu je ale situacia rozhodne ina nez u P4, ale to je dane jak lepsim hrubym vykonom samotneho jedneho jadra, nasledne mnozstvom fyzickych jadier, ale tiez aj pristupom k RAM ktory Intel konecne zlepsil.

Avsak pri hrubom hodnoteni HT a Multiprocesorovych rieseni, vyjde vzdy HT ako snaha o zefektivnenie vykonu, u Multiprocesorov snaha o zvysenie vykonu ale aj stability. Ich kombinacia je rozhodne zaujimavejsia nez uniprocesorove P4 a to je zhruba to na co som chcel tymto poukazat.

Napriek tomu riesenie ktore by ma zaujalo, dnes nieje komercne dostupne... Viac jadrove CPU s HT, ale separovane len na niektorych jadrach... 1 Jadro by bezalo bez HT a dalsie 3 s HT (pripadne konfiguraca 2+2/2). Dovod na taketo riesenie je dany prave nizkou urovnou optimalizacie roznych aplikacii ktore preferuju CPU0, pripadne main thread aplikacie je urcujucim faktorom pre celkovy chod aplikacie a pri vyssom hrubom vykone bezi lepsie.

Multithreading je pre chod windows prirodzenejsi a jeho sprava je z roznych hladisk vyrazne jednoduchsia, avsak su to prave aplikacie a ich katastrofalna uroven ktora tento potencial zrazaju na kolena.

Hyperthreading ma pre efektivitu velmi zaujimave moznosti, avsak uroven optimalizacii musi byt este specifickejsia a narocnejsia a nie vzdy je mozne aplikacne vlakna takouto formou optimalizovat.

Napriek tomu kombinacia oboch rieseni ponuka plny potencial ktory vsak nespada do kategorie "Len hruby vykon je to co sa pocita", a v tom vidim bohuzial problem.

sorry Mire, ale jako v tom vlakne o 64bitech, motas veci dohromady.
HT neznamena, ze jedno vlakno bezi na FPU a druhy vlakno na ALU.
HT funguje tak, ze pokud jedno vlakno zrovna pouziva APU, druhy vlakno muze vyuzit FPU pokud pro nej ma 'praci'. a naopak.

problem s aplikacema casto je v tom, ze obecne programovat vicevlaknove neni jednoduchy a tak se spousta programatoru misto deleni jednotlivejch 'subprogramu' na vlakna omezuje na deleni programu na 'subprogramy' ve vlaknech. (subprogramem myslim jednu logickou cast programu - napr. u hry grafika, zvuk, ai, fyzika)

stabilita systemu v pripade nejakyho vzboureni aplikace je zasadne jen a jen zalezitost systemu, protoze dobre napsanej scheduler neda jednomu procesu 100% procesorovyho casu. resp. context switche zpet na jadro probihaj tak jako tak (za predpokladu, ze proces nema realtime prioritu - to se normalne nestava) a je jen veci OS, jestli programu da procesorovej cas, kterej je potreba na neco jinyho. jediny misto, kde tohle ma dalsi smysl jsou ovladace - tam uz je to slozitejsi, ale do podrobnejsich uvah timhle smerem se poustet nebudu, pac nevim, jak je windowsi driver model vlaknovatej, nebo neni.

cemu SMP/SMT muze pomoc u jednovlaknovejch aplikaci, je reaktivita systemu, resp. vykon narocny aplikace pri soucasnym vyuziti jinejch prostredku systemu.


a zakladni problem s P4 HT byl v tom, ze XP sice podporovaly SMP/SMT, ale uz nerozumely tomu, ze dve vlakna sdili vypocetni prostredky. pak mohl na jednom virtualni procesoru bezet proces, kterej mel vysokou prioritu a obcas mezi tim pricmrndavat jinej proces s nizsi prioritou na druhym virtualnim CPU. a protoze uvnitr cpu slo vicemene o system kdo driv prijde, ten driv pocita, mohl efektivne proces, ktery jen obcas vyuzival jednu cast cpu, brzdit druhy proces, ktery ho vyuzival plne a to bez kontroly scheduleru. tohle se resilo tusim v XP SP3 (tusim i vcetne nejaky dalsi podpory NUMA).

Když je tu ta debata ohledně HT,měl bych jeden dotaz. Mám i7 860 a řeším trochu dilema jestli ji provozovat 4,1GHz HT on nebo 4,3GHz HT off, obě možnosti se dají provozovat s ještě relativně normálním napětím a teplotami. Na PC mi nejvíce běží hry, filmy, občas nějaká MP3. Zatím používám druhou variantu čili vyšší takt a vyplé HT.

Spravna varianta.

Citace:

---

Původně odeslal Gestler

Když je tu ta debata ohledně HT,měl bych jeden dotaz. Mám i7 860 a řeším trochu dilema jestli ji provozovat 4,1GHz HT on nebo 4,3GHz HT off, obě možnosti se dají provozovat s ještě relativně normálním napětím a teplotami. Na PC mi nejvíce běží hry, filmy, občas nějaká MP3. Zatím používám druhou variantu čili vyšší takt a vyplé HT.

---

urcite tak, ako ti to sucastne bezi.

inak ak sa mozem spytat - ked nie HT, k comu i7 a nie i5
- este na P55 a s1156

Citace:

---

Původně odeslal Gestler

Když je tu ta debata ohledně HT,měl bych jeden dotaz. Mám i7 860 a řeším trochu dilema jestli ji provozovat 4,1GHz HT on nebo 4,3GHz HT off, obě možnosti se dají provozovat s ještě relativně normálním napětím a teplotami. Na PC mi nejvíce běží hry, filmy, občas nějaká MP3. Zatím používám druhou variantu čili vyšší takt a vyplé HT.

---

z toho co pises to poznas jen ve hrach ... a tam ten rozdil asi nebude kdovijak velkej. ale z teoretickyho pohledu se pridavam k predchozim radam ... non-ht je spravna varianta ...

Citace:

---

Původně odeslal -=HaDeS=-

urcite tak, ako ti to sucastne bezi.

inak ak sa mozem spytat - ked nie HT, k comu i7 a nie i5
- este na P55 a s1156

---

No i5 jsem dostal max na 4,13GHz stable,tuhle i7 bez HT dostanu na 4,54GHz a jelikož jsem jí pořídil dobře tak ten rozdíl má cenu.

Citace:

---

Původně odeslal Gestler

No i5 jsem dostal max na 4,13GHz stable,tuhle i7 bez HT dostanu na 4,54GHz a jelikož jsem jí pořídil dobře tak ten rozdíl má cenu.

---

ach tak, len mi nebolo jasne preco menit i5 za i7 do toho isteho socketu a chipsetu ked HT (v podstate asi jedina vec cim sa lisia) vypinas. Pravda, takto to cenu ma.