10.MPI.Definicja standardu(2

Grupy proces

Grupa

– uporz

dkowany zbiór procesów

– procesy identyfikowane przez indeksy (0+)
– grupa jako obiekt posiada własny identyfikator
– skojarzona zawsze z obiektem komunikatora
– predefiniowana grupa pusta

MPI_GROUP_EMPTY

int MPI_Comm_group(MPI_Commm *comm,\
MPI_Group *group)

Tworzenie kopii grupy okre

lonej komunikatorem

comm

int MPI_Group_size(MPI_Group *group,\
int *size)

obliczenie liczby procesów nale

Ŝą

cych do grupy

group

, wynik w

size

Grupy proces

w (2)

Operacje mnogo

ciowe

na grupach (suma,

iloczyn, ró

nica):

int MPI_Group_

xxxx

(MPI_Group A,\

MPI_Group

B, MPI_Group *wynik)

gdzie

– xxxx

union

– suma grup, A U B

– xxxx

intersection

– iloczyn grup, A

∩

– xxxx

difference

– ró

nica grup, A \ B

Grupy proces

w (3)

int MPI_Group_incl(MPI_Group group,\

int n, int *ranks,\

MPI_Group newgroup)

utworzenie nowej grupy

newgroup

przez

doł

czenie nowych procesów do grupy

group

;

= liczba dodawanych procesów

ranks

= tablica zawieraj

ca ID dodawanych procesów

Grupy proces

w (4)

int MPI_Group_translate_ranks \

(MPI_Group group1, int n,\
int *ranks1, MPI_Group group2,\
int *ranks2)

Okre

lenie numeracji procesów wewn

trz grupy

group2

utworzonej z grupy

group1

; liczba

liczebno

ść

nowej grupy,

ranks1

ranks2

- tablice

identyfikatorów odpowiednio pierwszej i drugiej
grupy procesów (rozmiary tablic identyczne)

int MPI_Group_free(MPI_Group group)

usuni

cie grupy o identyfikatorze

group

#include <mpi.h>

#include <stdio.h>

/* oprac. LS na podstawie
Jedrzej.Ulasiewicz.staff.iiar.pwr.wroc.pl/Progr-Wspol-i-Rozprosz/wyklad/MPI14.pdf
*/

int main(int argc, char *argv[])
{

MPI_Init(&argc,&argv);
MPI_Group wszystkie, nieparzyste, parzyste;

int i, p, Nparz, procesy0[8], procesy1[8], Lparzystych, Nrprocesu;

MPI_Comm_size(MPI_COMM_WORLD, &p);
MPI_Comm_group(MPI_COMM_WORLD, &wszystkie);

// procesy z MPI_COMM_WORLD o numerach parzystych sa umieszczane w nowej grupie
Nparz = (p+1)/2;

//zero jest parzyste!

for (i=0; i<Nparz; i++) { procesy0[i] = 2*i; };

MPI_Group_incl(wszystkie, Nparz, procesy0, &parzyste);
MPI_Comm_rank(MPI_COMM_WORLD, &Nrprocesu);

if (Nrprocesu==0)
{

printf("Tworzenie grupy procesów o nrach parzystych\n");

MPI_Group_size(parzyste, &Lparzystych);

printf("Liczba procesów w nowej grupie = %d\n", Lparzystych);

MPI_Group_translate_ranks(wszystkie, Nparz, procesy0, parzyste, procesy1);

printf("Pierwotny nr Nowy nr\n");
for (i=0; i<Nparz; i++)

printf("%12d %7d\n", procesy0[i], procesy1[i]);

}

MPI_Finalize();

return 0;

}

Przyk

ad #1: Tworzenie grupy proces

[root@p205 openMPI]#

mpicc selParz.c -o selParz

[root@p205 openMPI]#

mpirun -n 4 --mca btl tcp,self \

selParz

Tworzenie grupy procesów o nrach parzystych

Liczba procesów w nowej grupie = 2

Pierwotny nr Nowy nr

0 0

2 1

[root@p205 openMPI]#

mpirun -n 7 --mca btl tcp,self \

selParz

Tworzenie grupy procesów o nrach parzystych

Liczba procesów w nowej grupie = 4

Pierwotny nr Nowy nr

0 0

2 1

4 2

6 3

[root@p205 openMPI]#

Przyk

ad #1: Kompilacja i uruchomienie

Komunikatory

Komunikator

– obiekt zawieraj

cy grup

procesów, które mog

wzajemnie

komunikowa

– Dost

pny tylko poprzez swój ID

– Komunikaty MPI wskazuj

komunikator

Perspektywa programisty

grupa

≈

komunikator

;

Grupa – lista procesów słu

Ŝą

ca do utworzenia

komunikatora („stadium po

rednie”)

Operacje na komunikatorach

int MPI_Comm_dup(MPI_Comm comm,\

MPI_Comm *newcomm)

utworzenie komunikatora

newcomm

jako duplikatu

komunikatora

comm

, zawieraj

cego te same procesy

int MPI_Comm_create(MPI_Comm comm,\

MPI_Group newgroup, MPI_Comm *newcomm)

utworzenie komunikatora

newcomm

z grupy procesów

okre

lonej identyfikatorem

newgroup

nale

Ŝą

cych do

komunikatora

ródłowego

comm

Operacje na komunikatorach (2)

int MPI_Comm_split(MPI_Comm comm,\

int color, int key, MPI_Comm *newcomm)

utworzenie komunikatora

newcomm

przez podział zwi

zanej z nim

grupy istniej

cego komunikatora na rozł

czne podgrupy,

color

- parametr klasyfikuj

cy procesy wł

czane do nowego

komunikatora,

key

– priorytet; liczba nowych komunikatorów =

liczebno

ść

zbioru ró

nych warto

ci parametru

color

[

ródło: jedrzej.ulasiewicz.staff.iiar.pwr.wroc.pl/Progr-Wspol-i-Rozprosz/wyklad/MPI14.pdf

Organizacja proces

w grupy i komunikatory

Dynamiczny charakter

grup i komunikatorów -

tworzenie i usuwanie w czasie wykonywania
programu

Proces

–

element dowolnej liczby grup i komunika-

torów

40+ procedur

obsługi grup i komunikatorów

Organizacja proces

w (2)

Typowe post

powanie

Utworzenie globalnej grupy z komunikatora

MPI_COMM_WORLD

za pomoc

procedury

MPI_Comm_group

pobranie jej ID

Zbudowanie nowej grupy jako podzbioru procesów grupy
globalnej (procedura

MPI_Group_incl

)

Utworzenie komunikatora z nowej grupy (procedura

MPI_Comm_create

)

Okre

lenie ID (rank) procesów w nowym komunikatorze

(procedura

MPI_Comm_rank

)

Przeprowadzi

komunikacj

(ró

ne procedury

przekazywania komunikatów)

Usun

ąć

nowy komunikator (

MPI_Comm_free

) i now

grup

(

MPI_Group_free

)

Organizacja

proces

w (3)

Cel

tworzenie grup procesów

do realizacji podobnych
funkcji
-

umo

liwienie kolektywnej

komunikacji

w podzbiorze

procesów
-

umo

liwienie budowania

wirtualnych topologii

procesów
-

zapewnienie bezpiecznej

komunikacji

[

ródło: https://computing.llnl.gov/tutorials/mpi/]

„Lokalne” ID procesów

Komunikacja punkt

punkt

Od
b

W
y

ła

MPI_Irecv(buffer, count, type, source,

tag, comm, request)

Nieblokuj

MPI_Recv(buffer, count, type, source,

tag, comm, status)

Blokuj

MPI_Isend(buffer, count, type, dest,

tag, comm, request)

Nieblokuj

MPI_Send(buffer, count, type, dest,

tag, comm)

Blokuj

Wywołanie procedury

Rodzaj operacji

Komunikacja punkt

punkt (2)

Obja

nienie parametrów procedur

buffer

– wska

nik bufora danych wysyłanych/odbieranych

count

– liczba elementów danych wskazanego typu

type

– wskazanie typu danych w buforze

tabela

dest

– ID procesu, do którego komunkat ma by

przekazany

source

– ID procesu, który nadał komunikat, lub

MPI_ANY_SOURCE

gdy nadawca nie ma znaczenia

tag

– dowolna nieujemna liczba całkowita identyfikuj

ca rodzaj

komunikatu lub

MPI_ANY_TAG

, gdy rodzaj nie ma znaczenia;

comm

– ID komunikatora, którego dotyczy ID nadawcy lub odbiorcy,

lub

MPI_COMM_WORLD

, gdy dotyczy wszystkich procesów

status

(dla operacji odbierania) wska

nik do struktury typu

MPI_Status

request

(dla operacji nieblokuj

cych) – wska

nik do struktury typu

MPI_Request

przechowuj

cej numer operacji, dla ewentualnego

pó

niejszego wykorzystania np. dla zbadania, czy operacja si

zako

czyła (procedura typu

Wait

)

Typy danych w komunikatach

Dane spakowane/rozpakowane za pomoc

MPI_Pack()

MPI_Unpack

MPI_PACKED

8 binary digits

MPI_BYTE

long double

MPI_LONG_DOUBLE

double

MPI_DOUBLE

float

MPI_FLOAT

unsigned long int

MPI_UNSIGNED_LONG

unsigned int

MPI_UNSIGNED

unsigned short int

MPI_UNSIGNED_SHORT

unsigned char

MPI_UNSIGNED_CHAR

signed long int

MPI_LONG

signed int

MPI_INT

signed short int

MPI_SHORT

signed char

MPI_CHAR

Definicja w j

zyku C

Typ danych MPI

[

ró

ło

]

Wybrane procedury komunikacji punkt

punkt

int MPI_Send(void *buf, int count,\

MPI_Datatype datatype, int dest, int tag,\

MPI_Comm comm)

[

ródło: jedrzej.ulasiewicz.staff.iiar.pwr.wroc.pl/Progr-Wspol-i-Rozprosz/wyklad/MPI14.pdf

(Wysyłanie blokuj

ce)

Wybrane procedury komunikacji punkt

punkt (2)

int MPI_Recv(void *buf, int count,\

MPI_Datatype datatype, int srce, int tag,\

MPI_Comm comm, MPI_Status *status)

(Odbieranie blokuj

ce)

[

ródło: jedrzej.ulasiewicz.staff.iiar.pwr.wroc.pl/Progr-Wspol-i-Rozprosz/wyklad/MPI14.pdf

#include "mpi.h"

#include <stdio.h>

int main(int argc, char *argv)

{

int numtasks, rank, dest, source, rc, count, tag=1;

char inmsg, outmsg='x';

MPI_Status Stat;

MPI_Init(&argc,&argv);

MPI_Comm_size(MPI_COMM_WORLD, &numtasks);

MPI_Comm_rank(MPI_COMM_WORLD, &rank);

if (rank == 0) {

dest = 1;

source = 1;

rc = MPI_Send(&outmsg, 1, MPI_CHAR, dest, tag, MPI_COMM_WORLD);

rc = MPI_Recv(&inmsg, 1, MPI_CHAR, source, tag, MPI_COMM_WORLD, &Stat);

}

else if (rank == 1) {

dest = 0;

source = 0;

rc = MPI_Recv(&inmsg, 1, MPI_CHAR, source, tag, MPI_COMM_WORLD, &Stat);

rc = MPI_Send(&outmsg, 1, MPI_CHAR, dest, tag, MPI_COMM_WORLD);

}

rc = MPI_Get_count(&Stat, MPI_CHAR, &count);

printf("Task %d: Received %d char(s) from task %d with tag %d \n", rank,\
count, Stat.MPI_SOURCE, Stat.MPI_TAG);

MPI_Finalize();

}

Program #2. Ping

pong

Proces

wysyła ‘x’ do procesu

i czeka na odzew

[

ródło: https://computing.llnl.gov/tutorials/mpi/]

[root@p205 openMPI]#

mpirun -n 2 --mca btl tcp,self \

ping-pong

Task 1: Received 1 char(s) from task 0 with tag 1

Task 0: Received 1 char(s) from task 1 with tag 1

[root@p205 openMPI]#

Przyk

#2:

Kompilacja i uruchomienie

Synchronizacja komunikacji punkt

punkt

Ze wzgl

du na współdziałanie

nadawcy

i odbiorcy:

– Synchroniczna

: oczekiwanie nadawcy na

przyst

pienie odbiorcy do odbierania komunikatu

– Asynchroniczna

: z umieszczeniem przez nadawc

komunikatu w buforze, gdy odbiorca nie jest
gotowy do odbierania

Ze wzgl

du na blokowanie

procesu:

– Blokuj

: wyj

cie (powrót) z funkcji

komunikacyjnej dopiero po jej zako

czeniu

– Nieblokuj

: powrót natychmiastowy

Synchronizacja komunikacji punkt

punkt (2)

Obsługa buforowania

w komunikacji asynchronicznej:

int MPI_Buffer_attach(void *buffer,\

int size)

utworzenie bufora,

size

>= rozmiar pojedynczego

komunikatu

int MPI_Buffer_detach(void *buffer,\

int size)

zwolnienie bufora wskazanego przez

buffer

o rozmiarze

size

Kombinacje tryb

wsp

dzia

ania i buforowania

Bez blokowania (natychmiastowy)

Immediate (

)

Nieblokuj

Nadawanie wymaga wcze

niejszej

gotowo

ci do odbioru

Ready (

)

Przygotowany

Komunikacja spotkaniowa

Synchronous
(

)

Synchroniczny

Umieszczenie komunikatu we
wcze

niej utworzonym buforze

Buffered (

)

Buforowany

Opis sposobu realizacji

Nazwa w j

angielskim

i kod nazwy

Nazwa w j

polskim

np. MPI_Ssend

P: Tryb synchroniczny

int MPI_Ssend(*buffer, count,\

datatype, dest, tag, comm, ierr)

blokada nadawcy do czasu zako

czenia odbioru

[

ródło: jedrzej.ulasiewicz.staff.iiar.pwr.wroc.pl/Progr-Wspol-i-Rozprosz/wyklad/MPI14.pdf

P: Tryb buforowany

int MPI_Bsend(void *buffer, int count,\

MPI_Datatype datatype, int dest, int tag,\

MPI_Comm comm, int ierr)

buforowanie komunikatu przez nadawc

[

ródło: jedrzej.ulasiewicz.staff.iiar.pwr.wroc.pl/Progr-Wspol-i-Rozprosz/wyklad/MPI14.pdf

P: Tryb buforowany nieblokuj

int MPI_Ibsend(void *buffer,\

int count, MPI_Datatype datatype,\

int dest, int tag, MPI_Comm comm,\

MPI_Request *request)

Znaczenie parametrów – jak poprzednio;

request

– identyfikator rozpocz

tej operacji, do

wykorzystania przez procedury typu Wait

P: Tryb przygotowany nieblokuj

int MPI_Irsend(*buffer, count,\

datatype, dest, tag, comm)

operacja wysłania komunikatu wymaga wcze

niejszej

gotowo

ci odbiorcy (inaczej

bł

[

ródło: jedrzej.ulasiewicz.staff.iiar.pwr.wroc.pl/Progr-Wspol-i-Rozprosz/wyklad/MPI14.pdf

czenie operacji nieblokuj

cych

MPI_Wait(MPI_Request *request,\

MPI_Status status)

blokowanie procesu

wywołuj

cego te procedur

chwili, gdy operacja wskazywana przez ID

request

zostanie zako

czona (dla wysyłania oznacza to,

bufor mo

e by

yty ponownie).

Po wykonaniu procedury

MPI_Wait

zmienna

request

zawiera warto

ść

MPI_REQUEST_NULL

MPI_Waitany, MPI_Waitall, MPI_Waitsome

–

wersje procedury blokuj

ce proces a

zako

czy si

jakalokwiek

operacja, wszystkie operacje lub niektóre z nich

czenie operacji nieblokuj

cych (2)

MPI_Test(MPI_Request *request,\

int *flag, MPI_Status *status)

nieblokuj

ce badanie

zako

czenia operacji wskazanej

przez ID

request

;

flag

TRUE

gdy operacja

zako

czyła si

flag

FALSE

w przeciwnym razie

MPI_Cancel(MPI_Request *request)

anulowanie

operacji nieblokuj

cej wskazanej przez ID

request

Testowanie operacji nieblokuj

cych

MPI_Iprobe(int source, int tag,\

MPI_Comm comm, int *flag,\

MPI_Status *status)

badanie

czy w komunikatorze

comm

jest wiadomo

ść

nadana przez proces

source

i posiadaj

ca etykiet

równ

tag

, dla której warto

ść

zmiennej

flag

jest

równa

TRUE

Wysy

anie z odbieraniem

MPI_Sendrecv(

void *sendBuf, int sendCnt,\

MPI_Datatype sendType,int dest,int sendTag,\

void *recvBuf, int recvCnt,\

MPI_Datatype recvType,int srce,int recvTag,\

MPI_Comm comm, MPI_Status *status)

wysłanie komunikatu od

send

recv

i oczekiwanie na odpowied

;

Elementy nazw:

send

recv

– odpowiednio funkcje nadawania i odbioru,

dest

srce

- odpowiednio ID procesu odbiorcy i nadawcy,

Cnt

– liczba,

Type

– typ danych w komunikacie,

Tag

– etykieta,

comm

– komunikator,

status

– status wykonania

Przyk

#3:

Karuzela proces

dy proces przekazuje swój ID

siadowi z lewej strony,

i otrzymuje ID swojego prawego
s

siada.

#include <mpi.h>

#include <stdio.h>

/* ------------------------------------------------------------------------

karuzela.c - przekazywanie komunikatow w pierscieniu procesow

Proces #i otrzyma komunikat z numerem swojego prawego sasiada, tj. i+1

Oprac. LS na podstawie http://mpi.deino.net/mpi_functions/MPI_Sendrecv.html

--------------------------------------------------------------------------*/

int main(int argc, char *argv[])

{

int wlasnyID, Lprocesow, lewySasiad, prawySasiad;

char buforSend[5], buforRecv[5];

MPI_Status status;

MPI_Init(&argc,&argv);

// identyfikacja srodowiska

MPI_Comm_size(MPI_COMM_WORLD, &Lprocesow);

MPI_Comm_rank(MPI_COMM_WORLD, &wlasnyID);

// przygotowanie odpowiedzi w postaci tekstowej – wlasny ID procesu

sprintf(buforSend,"%d", wlasnyID);

// okreslenie ID sasiadow

prawySasiad = (wlasnyID + 1) % Lprocesow;

lewySasiad = wlasnyID - 1;

if (lewySasiad < 0) lewySasiad = Lprocesow - 1;

// nadanie komunikatu do sasiada z lewej strony i odebranie komunikatu od tego z prawej

// UWAGA: etykiety musza byc zgodne!

MPI_Sendrecv(\

buforSend, 5, MPI_CHAR, lewySasiad, 11,buforRecv, 5, MPI_CHAR, prawySasiad, 11,\

MPI_COMM_WORLD, &status);

// raportowanie otrzymanych komunikatow

printf("Tu proces %d. Sasiad z prawej strony ma nr %s\n", wlasnyID, buforRecv);

MPI_Finalize();

return 0;

}

Program #3. Karuzela

[root@p205 openMPI]#

mpicc karuzela.c –o karuzela

[root@p205 openMPI]#

mpirun –n 4 -–mca btl tcp,self \

karuzela

Tu proces 0. Sasiad z prawej strony ma nr 1

Tu proces 3. Sasiad z prawej strony ma nr 0

Tu proces 1. Sasiad z prawej strony ma nr 2

Tu proces 2. Sasiad z prawej strony ma nr 3

[root@p205 openMPI]#

Przyk

#3:

Kompilacja i uruchomienie