9 MPI Definicja standardu

9. MPI. Definicja standardu

ęść

Specyfikacja standardu MPI

Opracowany przez MPI Forum

(40+ organizacji, w tym dostawcy, naukowcy, twórcy
bibliotek oprogramowania, u

ytkownicy)

Nie b

c oficjalnym standardem ISO ani

IEEE

, praktyczny, przeno

ny, efektywny, elastyczny

uznany jako

de facto standard

do tworzenia

aplikacji obliczeniowych z przekazywaniem
komunikatów

Specyfikacja interfejsu

dla C/C++ i Fortranu

Geneza MPI

[ź

ró

ło

]

ciwo

ci MPI

Standaryzacja

–

dost

pno

ść

praktycznie na

wszystkich platformach

Przeno

ść

– brak konieczno

ci modyfikacji kodu

ródłowego po przeniesieniu na inn

platform

zgodn

ze standardem MPI

Implementacje dla konkretnych platform

mog

wykorzystywa

ich specyficzne cechy dla

zwi

kszania wydajno

Funkcjonalno

ść

– MPI-1 dostarcza 115 procedur

Dost

pno

ść

– ró

norodno

ść

implementacji

komercyjnych i public domain

MPI

–

model programowania

Wsparcie:

praktycznie dla ka

dego modelu

programowania równoległego z rozproszon

pami

tj. MIMD (SPMD)

Platformy sprz

towe

– Z pami

rozproszon

(cel wyj

ciowy)

– Z pami

ęć

współdzielon

(w tym SMP, NUMA)

– Hybrydowe

(masowe maszyny równoległe, klastry SMP,

klastry stacji roboczych, sieci heterogeniczne)

Równoległo

ść

jawna

, obsługiwana przez programist

Stała liczba podzada

(

task

) realizuj

cych równoległe

zadanie (

job

Brak mo

liwo

ci dynamicznego tworzenia

podzada

(dotyczy MPI-1)

MPI

–

adniki API

Biblioteki funkcji i plików nagłówkowych

– J

zyka C

– J

zyka C++

– J

zyka Fortran 77

– J

zyka Fortran 90

rodowisko uruchomieniowe

(runtime)

analogicznie do apletów j

zyka Java

MPI

–

podstawowe obiekty

Komunikator

– Okre

la kontekst komunikacji: zbiór procesów które mog

ze sob

komunikowa

– Predefiniowany komunikator

MPI_COMM_WORLD

obejmuj

wszystkie procesy MPI

– Programista mo

e definiowa

nowe komunikatory

Grupa

–

kolekcja komunikuj

cych si

procesów

Identyfikator procesu w komunikatorze

–

tzw.

rank

– liczba całkowita, nieujemna (0, 1, …) nadana

przez system w chwili inicjalizacji procesu

– u

ywany do wskazywania nadawców i odbiorców

komunikatów i do adresowania wykonawców czynno

w zadaniu

Komunikacja punkt

punkt

Zasady

– Przekazywanie komunikatów pomi

dzy dwoma (!)

podzadaniami MPI (nadawca – odbiorca)

– Ró

ne typy procedur:

•

Synchroniczne wysyłanie

•

Blokuj

ce wysyłanie / blokuj

ce odbieranie

•

Nieblokuj

ce wysyłanie / nieblokuj

ce odbieranie

•

Buforowane wysyłanie

•

Kombinowane wysyłanie / odbieranie

– Dozwolone ł

czenie ró

nych typów procedur wysyłania i

odbierania

– Dodatkowe procedury obsługi

(np. czekanie na komunikat,

badanie czy komunikat ju

nadszedł)

Komunikacja punkt

punkt (2)

Buforowanie

konieczno

ść

obsługi komunikacji przy braku

synchronizacji podzada

, np.

– Nadej

cia komunikatu przed uzyskaniem gotowo

ci odbiorcy

do przyj

cia go

– Równoczesnego nadej

cia wielu komunikatów do odbiorcy

zdolnego tylko do pojedynczego ich przyjmowania

Konieczno

ść

ustalenia, co zrobi

z komunikatami, które nie

mog

odebrane w chwili nadej

cia - zadanie

rozwi

zywane poprzez

bufor systemowy

(składnik

implementacji MPI) lub

bufor aplikacyjny

(składnik standardu

MPI)

Komunikacja punkt

punkt . Bufor systemowy

[ na podstawie:

https://

computing.llnl.gov

tutorials

mpi

]

Send

Wykonawca 1

Aplikacja

Dane

Bufor
systemowy

Sie

komputerowa

Sie

komputerowa

Recv

Wykonawca 2

Aplikacja

Dane

Bufor

systemowy

Dane

Komunikacja punkt

punkt. Bufor systemowy (2)

Cechy bufora systemowego

– Nieprzezroczysto

ść

dla programisty

– Niewystarczaj

ce udokumentowanie

– Ograniczona pojemno

ść

– Niekiedy niedost

pno

ść

tam, gdzie

wymagany

– Zdolno

ść

poprawiania wydajno

ci programu

przez umo

liwienie komunikacji asynchro-

nicznej

Komunikacja punkt

punkt. Bufor aplikacyjny

Bufor aplikacyjny

= przestrze

adresowa zarz

dzana przez programist

(zmienne programowe)

Bufor wysyłania zapewniony przez MPI

Tryby blokowania/

nieblokowania

Z blokowaniem

Procedura wysyłaj

ca (

send

) ko

czy prac

, kiedy jest

gwarancja,

e modyfikacja danych w buforze nadawczym nie

zmieni danych przeznaczonych dla odbiorcy; w tym celu dane
nie musz

odebrane przez adresata

– Synchroniczne wysyłanie z blokowaniem

–

zastosowanie tzw. handshakingu

– Asynchroniczne wysyłanie z blokowaniem

–

wykorzystanie bufora systemowego

Procedura blokowanego odbioru (

recv

) ko

czy prac

gdy dane nadeszły i s

gotowe do wykorzystania

przez program

Tryby blokowania/

nieblokowania

(2)

Bez blokowania

Procedury nieblokuj

cego wysyłania i nieblokuj

cego odbioru

prac

bez czekania na efekty komunikacji,

Moment wyst

pienia zdarzenia dotycz

cego realizowanej

komunikacji nie jest przewidywalny

Modyfikacja bufora aplikacyjnego przed upewnieniem si

nieblokuj

ca operacja została uko

czona jest niebezpieczna;

wskazane jest wykorzystanie odpowiedniej procedury czekania

Komunikacja nieblokuj

ca słu

y głównie do nakładania w czasie

oblicze

i komunikacji oraz zwi

kszania wydajno

Tryby blokowania/

nieblokowania

(3)

kszo

ść

procedur komunikacyjnych punkt-punkt

działa w obydwu trybach

Porz

dek i sprawiedliwo

ść

Porz

dek

– Gwarancja braku wyprzedzania si

przez komunikaty

– Reguły kolejno

ci nie obowi

zuj

przy wykorzystywaniu do

komunikacji mechanizmu wielow

tkowo

Sprawiedliwo

ść

– Brak gwarancji sprawiedliwo

ci,

– Programista musi zabezpieczy

program przed zagłodzeniem

operacji, np.

•

podzadanie A wysyła komunikat do podzadania B,

•

podzadanie B ma przygotowan

odpowied

dla A,

•

w tym czasie podzadanie C wysyła komunikat do B i odbiera
st

d odpowied

przeznaczon

dla A

•

A nie dostaje odpowiedzi od B

MPI

–

struktura programu

#include <mpi.h>

Inne dyrektywy, deklaracje i prototypy

Pocz

tek programu

Kod sekwencyjny

Inicjalizacja

rodowiska MPI = pocz

tek kodu równoległego

Obliczenia i komunikacja

Zako

czenie pracy

rodowiska MPI = koniec kodu równoległego

Kod sekwencyjny

Koniec programu

MPI

–

Format wywo

ania procedury

Posta

ogólna:

rc = MPI_Xxxx(parametr,…);

rc –

kod powrotu (ang. return code)

Po poprawnym wykonaniu procedury

rc = MPI_SUCCESS

(predefiniowana stała)

MPI

–

Procedury wymiany

komunikat

Przeznaczenie

– Wymiana danych mi

dzy procesami

– Wysyłanie komunikatów kontrolnych

– Synchronizacja procesów

Wła

ciwo

– Niezale

ść

od platformy

•

kolejno

ść

przesyłania bajtów dla

standardowych typów danych

•

Dodatkowe funkcje dla typów niestandardowych

– Adresowanie komunikatów

do konkretnych

MPI

–

Procedury wymiany komunikat

w (2)

Rozsyłanie komunikatów

– Ukrywanie szczegółów realizacyjnych

– Automatyzacja doboru schematu przepływu danych

Przykład: Badamy czas potrzebny procesowi #1 do wysłania tego samego

komunikatu do procesów #2 – #8.

Wariant podstawowy

(7 komunikatów)

Wariant ulepszony

(4 komunikaty)

Wariant optymalny

(3 komunikaty)

-u

MPI

–

Procedury zarz

dzania

rodowiskiem wykonawczym

Przeznaczenie

Inicjalizacja i ko

czenie działania

rodowiska MPI

Badanie wła

ciwo

rodowiska

Sprawdzanie to

samo

Kontrola poprawno

ci przesyłania komunikatów

inne

MPI

–

Procedury zarz

dzania

rodowiskiem wykonawczym (2)

int MPI_Init(int *argc,char *argv[])

jednorazowa inicjalizacja

rodowiska MPI w tym utworzenie

domy

lnego komunikatora

MPI_COMM_WORLD;

konieczne

wywołanie przed pierwszym wywołaniem jakiejkolwiek innej

procedury MPI

int MPI_Comm_size(MPI_Comm comm,int *size)

ustalenie liczby procesów w grupie zwi

zanej z komunikatorem

int MPI_Comm_rank(MPI_Comm comm,int *rank)

okre

lenie identyfikatora wywołuj

cego procesu w obr

bie

komunikatora; pocz

tkowo ka

dy proces ma swój ID w obr

bie

komunikatora globalnego

MPI_COMM_WORLD

(tzw. identyfikator

podzadania). W razie zwi

zania si

z innymi komunikatorami,

proces posiada w ka

dym z nich odr

bny unikalny ID

MPI

–

Procedury zarz

dzania

rodowiskiem wykonawczym (3)

int MPI_Abort(MPI_Comm comm,int error_code)

zako

czenie wszystkich procesów MPI zwi

zanych ze

wskazanym komunikatorem (w wi

kszo

ci implementacji zamyka

wszystkie

procesy, bez wzgl

du na podany komunikator)

int MPI_Get_Processor_name(char *name,

int *name_length)

zwrócenie nazwy wykonawcy i jej długo

ci; bufor nazwy musi

pomie

co najmniej

MPI_MAX_PROCESSOR_NAME

znaków;

rezultat zale

ny od implementacji (np. nazwa hosta)

int MPI_Initialized(int *flag)

zwrócenie

true

, je

li wcze

niej wywołano

MPI_Init

lub

false

w przeciwnym przypadku; ułatwia to konstruowanie zło

onych

struktur, bo ka

dy proces musi wywoła

MPI_Init

dokładnie

jeden raz

MPI

–

Procedury zarz

dzania

rodowiskiem wykonawczym (4)

double MPI_Wtime (void)

zwrócenie czasu astronomicznego w [s] (typ

double

)

double MPI_Wtick (void)

zwrócenie rozdzielczo

ci zegara

MPI_Wtime

w [s]

int MPI_Finalize (void)

zako

czenie działania

rodowiska wykonawczego

MPI; ostatnie wywołanie procedury MPI w ka

dym

programie korzystaj

cym z MPI

MPI

–

Podstawowe procedury komunikacji

int MPI_Send(void *buf, int count,
MPI_Datatype datatype, int dest, int tag,
MPI_Comm comm)

Blokuj

ce wysłanie komunikatu typu

datatype

zawartego w zmiennej

*buf

i oznaczonego

znacznikiem (etykiet

)

tag

do procesu o numerze

dest.

Typ komunikatu

– predefiniowany (

MPI_INT

MPI_FLOAT

MPI_CHAR

, itp.) lub zdefiniowany przez

ytkownika

Znacznik (etykieta)

– liczba z zakresu

[0..MPI_TAG_UB]

– dodatkowe oznaczenie typu komunikatu
wykorzystywane przez

MPI_Recv

MPI

–

Podstawowe procedury komunikacji (2)

int MPI_Recv(void *buf, int count,
MPI_Datatype datatype, int srce, int
tag, MPI_Comm comm, MPI_Status
*status)

blokuj

ce odczytanie z kolejki komunikatora

comm

pierwszego komunikatu typu

datatype

od procesu

srce

, posiadaj

cego znacznik

tag

oraz umieszczenie

komunikatu w

buf

i kodu wyniku operacji w

status

source=MPI_ANY SOURCE

odczytanie 1.

komunikatu od dowolnego nadawcy

tag=MPI_ANY_TAG

ignorowanie znacznika

MPI

–

Podstawowe procedury komunikacji (3)

Bufor

status

typu

MPI_Status

jest tablic

struktur zło

onych z 3 pól typu int:

– MPI_SOURCE,

– MPI_TAG,

– MPI_STATUS

Bufor musi by

uprzednio zadeklarowany. Zawiera

informacje o

ródle i typie ka

dego odebranego

komunikatu

MPI

–

Podstawowe procedury komunikacji (4)

int MPI_Get_count(MPI_Status *status,

MPI_Datatype datatype, int *count)

Ustalenie liczby odebranych komunikatów

typu

datatype

na podstawie zawarto

zmiennej

status

i umieszczenie wyniku

w zmiennej

count

Kompilacja program

Zamiast zwykłego wywołania

gcc plik.c –o plik opcja…

stosujemy

mpicc plik.c –o plik opcja…

Wymagania:

–

cie

ka do katalogu

bin

z plikami wykonywalnymi

MPI umieszczona w zmiennej

rodowiska (powłoki)

PATH

Uruchamianie program

Zamiast polecenia

plik

parametr_wywołania…

stosujemy

mpirun –n liczba_wykonawców \

--mca btl tcp,self

plik

parametr_wywołania…

Uruchamianie program

w (2)

Wymagania

– U

ytkownik posiada konto

na wszystkich komputerach

wykorzystywanych do wykonywania programu

– We wszystkich komputerach, w katalogu prywatnym

ytkownika znajduje si

kopia pliku programu

postaci wykonywalnej (np. dzi

ki współdzieleniu

jednego katalogu w sieci przez NFS lub tp.)

Korzy

ci wynikaj

ce ze sposobu uruchamiania

– Uniezale

nienie programu od sposobu jego

wykonywania; Bez rekompilacji mo

na u

tego

samego programu na klastrze komputerów i na
pojedynczej maszynie SMP

#include <mpi.h>

#include <stdio.h>

int main(int argc,char *argv[])

{ int numtasks, rank, rc;

rc =

MPI_Init(&argc,&argv);

if (rc != MPI_SUCCESS)

{ printf ("Error starting MPI program.

Terminating.\n");

MPI_Abort(MPI_COMM_WORLD, rc);

}

MPI_Comm_size(MPI_COMM_WORLD,&numtasks);

MPI_Comm_rank(MPI_COMM_WORLD,&rank);

printf ("Number of tasks= %d My rank= %d\n",

numtasks,rank);

/*******

do some work

*******/

MPI_Finalize();

}

Przyk

program MPI #1 [wg: https://

computing.llnl.gov

tutorials

mpi

Badanie wyniku inicjalizacji

Wszystkie zademonstrowane do tej pory

przykłady wykonano na maszynie o
architekturze SMP (tj. wieloprocesorowej
z pami

współdzielon

)

[root@p205 openMPI]# mpicc mpi1.c -o mpi1

[root@p205 openMPI]# mpirun -n 1 --mca btl \

tcp,self mpi1

Number of tasks= 1 My rank= 0

[root@p205 openMPI]# mpirun -n 2 --mca btl \

tcp,self mpi1

Number of tasks= 2 My rank= 0

Number of tasks= 2 My rank= 1

[root@p205 openMPI]#

Przyk

program MPI #1

–

kompilacja i uruchomienie

#include <mpi.h>

#include <stdio.h>

int main(int argc, char *argv[])

{

char nazwa_proc[256];

int

nazwa_proc_len, id;

MPI_Init(&argc, &argv);

MPI_Comm_rank(MPI_COMM_WORLD, &id);

printf("--------------------\nTu wykonawca nr %d\n", id);

printf("Wartosc stalej MPI_MAX_PROCESSOR_NAME = %d\n",

MPI_MAX_PROCESSOR_NAME);

MPI_Get_processor_name(nazwa_proc, &nazwa_proc_len);

printf("Nazwa procesora = %s, dlugosc nazwy = %d\n",

nazwa_proc, nazwa_proc_len);

printf("Czas aktualny = %f [s], rozdzielczosc zegara = %f

[s]\n", MPI_Wtime(), MPI_Wtick());

MPI_Finalize();

return 0;

}

Przyk

program MPI #2

–

dane

rodowiska wykonawczego

[root@p205 openMPI]# mpicc mpi2.c -o mpi2

[root@p205 openMPI]# mpirun -n 2 --mca btl tcp,self \

mpi2

--------------------

Tu wykonawca nr 0

Wartosc stalej MPI_MAX_PROCESSOR_NAME = 256

Nazwa procesora = p205, dlugosc nazwy = 4

--------------------

Tu wykonawca nr 1

Wartosc stalej MPI_MAX_PROCESSOR_NAME = 256

Czas aktualny = 1270674511.641517 [s], rozdzielczosc

zegara = 0.000001 [s]

Nazwa procesora = p205, dlugosc nazwy = 4

Czas aktualny = 1270674511.641643 [s], rozdzielczosc

zegara = 0.000001 [s]

Przyk

program MPI #2

–

kompilacja i uruchomienie

Przyk

program MPI #3

[wg:

http://

www

users.mat.uni.torun.pl

bala

/sem_mgr_2000/

mpi.html

]

#include <stdio.h>

#include "mpi.h"

main(int argc, char **argv)

{ int my_rank;

int p;

int source;

int dest;

int tag=50;

char message[100];

MPI_Status status;

MPI_Init(&argc, &argv);

MPI_Comm_rank(MPI_COMM_WORLD, &my_rank);

MPI_Comm_size(MPI_COMM_WORLD, &p);

if (my_rank != 0)

{ sprintf(message, "Hello from process %d.", my_rank);

dest = 0;

MPI_Send(message, strlen(message)+1, MPI_CHAR, dest, tag,

MPI_COMM_WORLD);

} else

for (source=1; source<p; source++)

{ MPI_Recv(message, 100, MPI_CHAR, source, tag, MPI_COMM_WORLD,

&status);

printf("%s\n", message);

}

MPI_Finalize();

}

[root@p205 programy.c]# mpicc MPI-helloW.c -o MPI-helloW

[root@p205 programy.c]# mpirun -n 1 --mca btl tcp,self \

MPI-helloW

[root@p205 programy.c]# mpirun -n 2 --mca btl tcp,self \

MPI-helloW

Hello from process 1.

[root@p205 programy.c]# mpirun -n 4 --mca btl tcp,self \

MPI-helloW

Hello from process 1.

Hello from process 2.

Hello from process 3.

[root@p205 programy.c]#

Przyk

program MPI #3

–

kompilacja i uruchomienie

Dla 1 wykonawcy nie ma wymiany komunikatów

Wyszukiwarka

Podobne podstrony:
11 MPI Definicja standardu 3
10 MPI Definicja standardu 2
definicja czułości wg standardu ISO
Definicja i podzia skazy krwotocznej
Ewolucja marketingu era produkcyjna, sprzedazowa, marketingowa Rynek definicja
standard HL7
INTER 1 DEFINICJA
DEFINICJA STRESU
Metodologia SPSS Zastosowanie komputerów Golański Standaryzacja
standaryzacja w geomatyce
Definicje położnicze
Wykł 1 Omówienie standardów
Złote standardy w diagnostyce chorób układowych 3
1 1 bezpiecz definicjeid 8843 ppt
2 Podstawowe definicje (2)id 19609 ppt
2 definicje i sprawozdawczośćid 19489 ppt

więcej podobnych podstron