LẬP CHƯƠNG TRÌNH BẰNG NGÔN NGỮ PASCAL TÍNH GẦN ĐÚNG TÍCH PHÂN XÁC ĐỊNH BẰNG CÔNG THỨC SIMPSON

Mọi ý kiến đóng góp xin gửi vào hòm thư: [email protected]

Kéo xuống để Tải ngay đề cương bản PDF đầy đủ: Sau “mục lục” và “bản xem trước”

(Nếu là đề cương nhiều công thức nên mọi người nên tải về để xem tránh mất công thức)

Đề cương liên quan: Ứng dụng mạng nơron, mạng nơron xoắn và sử dụng kết hợp CPU – GPU để tăng hiệu năng tính toán trong phân loại ảnh

---

[toc]

[pdfviewer width=”800px” height=”1000px” beta=”true/false”]http://hotroontap.com/wp-content/uploads/2019/07/L%E1%BA%ACP-CH%C6%AF%C6%A0NG-TR%C3%8CNH-B%E1%BA%B0NG-NG%C3%94N-NG%E1%BB%AE-PASCAL-T%C3%8DNH-G%E1%BA%A6N-%C4%90%C3%9ANG-T%C3%8DCH-PH%C3%82N-X%C3%81C-%C4%90%E1%BB%8ANH-B%E1%BA%B0NG-C%C3%94NG-TH%E1%BB%A8C-SIMPSON.pdf[/pdfviewer]

Tải ngay đề cương bản PDF tại đây: LẬP CHƯƠNG TRÌNH BẰNG NGÔN NGỮ PASCAL TÍNH GẦN ĐÚNG TÍCH PHÂN XÁC ĐỊNH BẰNG CÔNG THỨC SIMPSON

TẠP CHÍ KHOA HỌC

 

Khoa học Tự nhiên và Công nghệ, Số 6 (9/2016) tr 50 – 58

 

LẬP CHƯƠNG TRÌNH BẰNG NGÔN NGỮ PASCAL TÍNH GẦN ĐÚNG TÍCH PHÂN XÁC ĐỊNH BẰNG CÔNG THỨC SIMPSON

 

Đoàn Vĩnh Ngọc, Hoàng Hiến, Trương Quốc Huấn Khoa Tự nhiên, Trường Cao đẳng Sư phạm Điện Biên

 

Tóm tắt: Phần lớn các tích phân xác định của một hàm số đều khó có thể tìm được giá trị đúng. Thay bằng việc tính giá trị đúng của một tích phân xác định, thì tin học có thể giúp ta tính được gần đúng tích phân xác định với một sai số e (đủ nhỏ) nào đó. “Lập chương trình bằng ngôn ngữ Pascal tính gần đúng tích phân xác định bằng công thức Simpson” là một hướng dùng máy tính và ngôn ngữ lập trình để thay con người giải quyết bài toán về tích phân xác định một cách hữu hiệu nhất.

 

Từ khóa: Tích phân, gần đúng, hàm số, lập trình, ngôn ngữ Pascal, công thức SIMPSON.

 

1. Đặt vấn đề

 

 

Như đã biết, nếu hàm số hàm số f ( x ) trên đoạn [a, b] thì

 

f ( x ) liên tục trên đoạn [a, b] và F ta có công thức Newton – Leibnitz

 

( x ) là một nguyên hàm của như sau:

 

b
ò f ( x ) d x  = F ( x )	b	= F ( b ) – F ( a ) ,
	a
a

trong đó

F ‘( x ) = f ( x ) .

 

Trong thực tế ta thường phải tính tích phân xác định của hàm số f ( x ) được cho bởi bảng giá trị, khi đó khái niệm nguyên hàm không có ý nghĩa. Mặt khác số lớp hàm f ( x ) mà ta có thể tính được nguyên hàm của nó là rất ít. Phần lớn các biểu thức giải tích của hàm số f ( x ) đã biết nhưng nguyên hàm F ( x ) của nó không thể biểu diễn được bằng hàm số sơ cấp. Trong trường hợp ấy không thể dùng công thức Newton – Leibnitz để tính được tích phân xác định.

 

Với các hàm số không tính được nguyên hàm, hay việc tính nguyên hàm của nó gặp nhiều khó khăn, thì thay bằng việc tính chính xác tích phân xác định của hàm số, ta đi tính gần đúng tích phân xác định của hàm số đó.

 

Để tính gần đúng tích phân xác định của một hàm số ta có thể dùng công thức hình thang hoặc công thức Simpson. Nhưng khi dùng công thức Simpson thì độ chính xác cao hơn hay sai số nhỏ hơn. Vậy “Lập chương trình bằng ngôn ngữ Pascal tính gần đúng tích phân xác định bằng công thức Simpson” không chỉ là cách tính gần đúng tích phân xác định với độ chính xác cao mà còn là cách dùng máy tính thay con người giải quyết dạng bài toán này.

 

2. Nội dung

 

2.1. Một số khái niệm cơ bản

 

2.1.1. Định nghĩa tích phân

 

Cho hàm số y = f ( x ) xác định trên đoạn [a , b ] . Chia tùy ý đoạn này thành n phần bằng các điểm chia (và gọi là một phân hoạch):

 

a  = x ₀  < x ₁  < . . . < x _i  < x _{i + 1}  < . . . . < x _{n –1}  < x _n   = b .

 

Ngày nhận bài: 5/7/2016. Ngày nhận đăng: 25/9/2016

Liên lạc: Đoàn Vĩnh Ngọc, e – mail: [email protected]

 

50

 

Ta ký hiệu		D x	i
mỗi đoạn	D x i  , ta lấy

(i = 0 , n – 1)     vừa là đoạn [ x i , x i + 1 ]  vừa là độ dài của đoạn thẳng đó. Trên

tùy ý một điểm x     rồi lập tổng (gọi là tổng tích phân):

i

 

• -1

s = å f ( x ) D x  .

i        i

 

i = 0

 

Rõ ràng tổng này phụ thuộc vào phép chia đoạn [ a , b ]

 

nhất của các đoạn D x  (i = 0 , n – 1)  (ký hiệu là l ) được gọi

i

cho độ dài của tất cả các đoạn D x   tiến tới 0 chỉ cần l ® 0 .

i

 

Khi đó giới hạn của tổng tích phân khi

l ®

0

:

và cách chọn điểm x . Độ dài lớn i

 

là đường kính của phân hoạch. Để

 

• = li m s
  • ® 0

có nghĩa là:

 

Với mọi e > 0  tìm được d > 0

 

kính nhỏ hơn d ), bất đẳng thức s – I

 

Định nghĩa:

 

Giới hạn I của tổng tích phân hoặc tích phân Riemann – của hàm số

 

sao cho chỉ cần l < d (tức là mọi phân hoạch có đường < e được thỏa mãn với bất kỳ cách chọn các điểm x .

i

 

s khi l ® 0 , nếu có, được gọi là tích phân xác định – f ( x ) trên đoạn [ a , b ] và ký hiệu:

 

	b	n -1
I =	ò f ( x ) d x  = li m	å	f ( x i	) D x	i .
	l ® 0	i = 0
	a

Khi đó ta nói hàm số trên của tích phân [3, 190].

2.1.2. Sai số

 

2.1.2.1. Số xấp xỉ

f

( x )

khả tích trên đoạn

[ a , b ]

, a và b tương ứng là cận dưới và cận

 

 

Định nghĩa: Ta gọi a gọi là số xấp xỉ của số đúng A, ký hiệu a » A , nếu a khác A không đáng kể và được dùng thay cho A trong tính toán.

Nếu a<A thì a gọi là xấp xỉ thiếu của A. Nếu a>A thì a gọi là xấp xỉ thừa của A [1, 5].

 

2.1.2.2. Sai số tuyệt đối

 

Định nghĩa: Hiệu D a = A – a (hoặc D a = a – A ) gọi là sai số của số xấp xỉ a. Trị tuyệt đối D =  D a  =  A – a  gọi là sai số tuyệt đối của số xấp xỉ a [1, 6].

 

Định nghĩa: Sai số tuyệt đối giới hạn của số xấp xỉ a là số không nhỏ hơn sai số tuyệt đối của số xấp xỉ a [1, 6].

 

2.1.2.2. Sai số tương đối

 

Định nghĩa: Sai số tương đối của số xấp xỉ a, ký hiệu  d , là:

 

thiết	A  ¹ 0 .
	Từ đó D =	A  .d [1, 7].
	Định nghĩa: Sai số tương đối giới hạn của số xấp xỉ a, ký hiệu
sai số tương đối của số xấp xỉ a. Do đó:			d £ d a  nghĩa là	D	£ d		.
				A		a
	Từ đó: D £	A  .d a   và có thể chọn
			D a   = A  .d a   [1, 7].

• =

• _a

D	=	A – a	với giả
A		A

là số không nhỏ hơn

 

2.2. Công thức Simpson và sai số

 

51

 

Để tính gần đúng

b

• f ( x ) d x

a

ta chia

• a , b ]

thành hai đoạn bằng nhau bởi các điểm chia

 

x

=

a , x

= a +

b – a

= a

+ h , x

= b = a +

0

1

2

2

thức

nội   suy   Newton

tiến

bậc

C ( x 1

= a + h , y 1

= f ( x 1 ) )

và

B ( x 2

=

a + 2

nút trùng với cận dưới a

= x

0 , ta có

b

2 h  và thay hàm số dưới dấu tích phân						f ( x )	bằng đa
	hai		(đi   qua	ba   điểm	A ( x 0   =	a , y 0	= f ( x 0 ) ) ,
h	= b , y		2   = f ( x 2 ) )	có hoành độ đều nhau) xuất phát từ
	x	2	x	2

ò f ( x ) d x	=	ò		f ( x ) d x	»	ò		P 2 ( x ) d x .
a		x	0			x	0

Để tính được tích phân xác định ở vế phải, ta đổi biến số biến thiên từ 0 đến 2 và ta được

x

=

 

x	0

+

h t

. Khi đó dx = hdt, t

 

b

x 2

2

æ

t ( t – 1)

ò f ( x ) d x

2

=

ò

f ( x ) d x

»

ò ç y

+

t D y 0

+

D

y 0

0

2

a

x

0

0

è

æ

t

2

1

æ

t

3

t

2

ö ö

t = 2

= h ç y 0 t + D y

+

D

2

y 0

ç

–

÷ ÷

0

2

2

3

2

è

è

ø ø

t = 0

ö	h d t
÷
ø
,

trong đó:

 

Vậy:

 

D y

0

=

y

1

– y

0

;

D

2

y

= D y

– D y

=

y

0

1

0

2

b

x 2

h

ò f ( x ) d x

=

ò

f ( x ) d x

»

( y 0

+ 4 y

+

3

1

a

x

0

–

 

y

 

y	1

• )

– ( y	1	– y	0	) =	y	2	– 2 y	1	+ y	0	.

(1)

 

Về mặt hình học, (1) có nghĩa là diện tích hình thang cong a A C B b đường cong y = f ( x ) đi qua ba điểm A, C, B) được thay xấp xỉ bằng diện

 

cong a A C B b ( A C B là cung parabol  y = P  ( x )  đi qua ba điểm A, C, B). Nói

2

 

cong y = f ( x ) đi qua ba điểm A, C, B được thay xấp xỉ bởi đường Parabol y ba điểm A, C, B (Hình 1).

( A C B là cung tích hình thang

 

khác đi, đường

 

= P ( x ) đi qua 2

 

y	y=f(x)
	y=P2(x)
A	C
	B

h           h

 

• x0=a x1 x2=b x Hình 1

Công thức (1) được gọi là công thức Simpson.

 

52

 

			b		h
Để xác định sai số:		=	ò	f ( x ) d x –		+ 4 y 1	+ y 2 ) , ta giả thiết rằng hàm số	y
	R				( y 0
					3
			a

có đạo hàm cấp 4 liên tục trên [a, b]. Cố định điểm giữa x1 và xem R là hàm số của h ( h

• f (

• 0

x )

 

):

 

	x	1	+ h		h
	= R ( h ) =	ò		f ( x ) d x –			– h ) + 4 f ( x 1 ) + f ( x 1	+ h ) ] .
R					[ ( f ( x	1
	x		– h		3
		1

Đạo hàm ba lần theo h đẳng thức trên, ta có

 

R ‘( h )

=

f ( x

+ h )

+ f ( x

– h )

–

1

[ f ( x

– h ) +

4 f ( x

) + f ( x

h

[ – f

‘( x

1

1

3

1

1

1

+ h ) ] –

3

1

=

2

– h ) + f ( x

+ h ) ]

–

4

f ( x

) –

h

[ – f

‘( x

– h ) + f

‘( x

+ h ) ]

[ f ( x

1

1

1

1

1

3

3

3

R

”( h )

=

2

– f

‘( x

– h ) + f

‘( x

+

h ) ] –

1

[ – f ‘( x

– h ) + f

‘( x

+ h ) ] –

h

[

1

1

1

1

[ – f ”( x

3

3

3

=

1

‘( x

– h ) + f

‘( x

+ h ) ] –

h

[ f

”( x

– h )

+ f

”( x

+ h ) ]

[ – f

1

1

1

1

3

3

R

”'( h )

=

1

[ f

”( x 1

– h ) + f

”( x 1

+ h ) ] –

1

[ f

”( x

1  – h ) + f

”( x 1

+ h ) ] –

h

[ -f

”'( x 1

3

3

3

h

= –    [ f ”'( x ₁  + h ) – f ”'( x ₁  – h ) ] .

3

 

Áp dụng công thức số gia hữu hạn (công thức Lagrange) đối với

• h )

1	– h

• h )

f ”'( x

 

+	f	‘( x	1	+ h ) ]

) + f	”( x	1	+ h ) ]

• f ”'( x ₁ + h ) ]

),  ta có

 

2 h

2

R

”'( h )

= –

f

( 4 )

( c

), c

Î

( x

– h , x

+ h )

3

3

3

1

1

Ngoài ra: R(0) = 0; R'(0) = 0; R”(0)=0.

Từ đó, áp dụng định lý trung bình thứ hai của tích phân xác định, ta nhận được

R ”( h ) = R

”( 0 ) + h

R

”'( t ) d t

=

2

h

t 2 f ( 4 ) ( c

) d t

ò

ò

3

3

0

0

2

h

2

= –

f ( 4 ) ( c  )

ò

t 2 d t = –

h 3 f ( 4 ) ( c  ) ; c  Î [ x  – h , x  + h ]

3

2

9

2

2

1

1

0

h

2

h

R ‘( h ) = R

‘( 0 ) +

ò R

”( t ) d t

= –

ò

t

3

f

( 4 )

( c

2 ) d t

9

0

0

2

h

1

= –

f

( 4 )

( c 1 )

ò

t

3

d t

= –

h

4

f

( 4 )

( c 1

) ; c 1

Î [ x 1

– h , x 1

+ h ]

9

1 8

0

R ( h ) = R ( 0 ) +

h  R ‘( t ) d t = –

1

h

t 4 f ( 4 ) ( c  ) d t

ò

ò

1 8

1

0

0

1

h

1

= –

f ( 4 ) ( c )

ò

t 4 d t = –

h 5 f ( 4 ) ( c ) ; c Î [ x  – h , x  + h ] .

1 8

9 0

1

1

0

Tóm lại, với giả thiết hàm số

y

=

f ( x )

có đạo hàm cấp 4 liên tục trên [ a , b ] , ta có công

thức Simpson sau đây

b

h

é

æ a + b ö

ù

1

b – a

ò f ( x ) d x

5

( 4 )

với h

=

Î [a , b ]. ( 2 )

=

ê f ( a ) + 4 f

ç

÷

+

f ( b ) ú

–

h

f

( c )

, c

3

2

9 0

2

a

ë

è

ø

û

2.3. Công thức Simpson tổng quát và sai số

 

53

 

	b
Để tính gần đúng tích phân xác định	ò	f ( x ) d x
	a

bằng nhau (nghĩa là n là số nguyên, dương và chẵn):

, ta chia đoạn

• a , b ]

thành n = 2m đoạn

 

có độ dài là:

 

[ x 0 , x 1

] , [ x 1 , x 2 ] ,…, [ x 2 m – 2 , x 2 m -1 ] ,

[ x 2 m -1 , x 2 m  ]

h  =

b – a

=

b – a

bởi các điểm chia:

n

2 m

x

0

= a ; x

i

= a + ih ( i = 1, 2 m – 1) , x

n

= x

2 m

= b .

Ký hiệu:

 

y i

= f ( x

i

), i = 0 , n

, khi đó:

b

x 2

x 4

x 2 m

ò f ( x ) d x

=

ò

f ( x ) d x +

ò

f ( x ) d x + . . . +

ò

f ( x ) d x

( 3 )

a

x

0

x 2

x

2 m – 2

Đối với mỗi tích phân xác định ở vế phải của (3), ta tính gần đúng bằng công thức

 

Simpson (1), ta nhận được:

 

b

h

h

ò f ( x ) d x

»

( y

0  + 4 y 1

+ y 2 ) +

( y 2  + 4 y 3  + y

4 ) + … +

3

3

a

b

h

ò f ( x ) d x  »

[ ( y 0  + y 2 m ) + 4 ( y

+ y 3  + … + y

) + 2

3

1

2 m – 1

a

b

h

hay:

ò

f ( x ) d x

»

0  + y 2 m

) + 4 s 1

+ 2 s 2

,

[ ( y

]

( 4 )

3

a

trong đó

s 1  =

y

1  + y 3

+

. . . + y

2 m – 1 ; s 2

= y 2

+ y 4

+ . . . + y 2 m – 2

Công thức (4) được gọi là công thức Simpson tổng quát.

Nếu hàm số  y

=

f ( x )

có đạo hàm cấp 4 liên tục trên

[a , b

thức Simpson tổng quát là:

 

h	( y		+ 4 y		+ y		)
3		2 m – 2		2 m -1		2 m

( y	2	+ y	4	+ … + y	2 m – 2	) ]

 

] thì do (2), sai số của công

 

x

2 m

h

m

R

=

ò

f ( x ) d x –

å

( y 2 k – 2

+ 4 y 2 k -1  + y 2 k )

3

x

k =1

0

m

æ

x

2 k

h

ö

= å

ò

ç

f ( x ) d x –

( y 2 k – 2  + 4 y 2 k -1  + y 2 k

) ÷

ç

3

÷

k = 1

è

x 2 k – 2

ø

h

5

m

= –

å

f

( 4 )

( c k

)  ( 5 )

9 0

k =1

với c _k  Î [ x _{2 k – 2} , x _{2 k} ].

 

Xét trung bình cộng

 

	1	m
m =		å	f	( 4 )	( c k	).
	m
		k =1

Vì hàm f⁽⁴⁾(x) liên tục trên đoạn [a, b] nên nó đạt

 

giá trị nhỏ nhất m2 và giá trị lớn nhất M2 trên [a, b]. Do đó f⁽⁴⁾(ck) nhận giá trị trung gian giữa

 

m2   và  M2	tức  là  m	2	£ f ( 4 ) ( c	k	) £ M	2	( k = 1, m ) .   Vì  vậy  tồn  tại  điểm  c Î [ a , b ]			sao  cho
m = f ( 4 ) ( c )	hay

m

 

å f ^{( 4 )} ( c _k ) = m .m = m .f ^{( 4 )} ( c ) .

 

• =1

Thay vào (5), ta nhận được

 

R  = –	m h 5	f ( 4 ) ( c ) = –	m . ( b – a ) h 4	f ( 4 ) ( c ) = –	( b – a ) h 4	f ( 4 ) ( c ) , c Î [a , b ] ( 6 )
9 0			2 .m . 9 0	1 8 0

54

 

Tóm lại, với giả thiết hàm số	y = f ( x ) có đạo hàm cấp bốn liên tục trên
đoạn lấy tích phân [a , b ] thành n = 2m đoạn bằng nhau, có độ dài h  =		b – a	=	b
		n		2

thức Simpson tổng quát sau:

• a ,

• a

m

b ]  và chia

 

ta có công

 

trong đó:

b

• f ( x ) d x =

a

 

s	1	=	y	1	+ y	3	+ . . . +

h			+
	[ ( y	0
3
y	2 m – 1	; s		2

y	2 m		) + 4 s			1	+ 2 s
=		y	2	+ y	4		+ . . . +

2	] –
y		2 m

( b – a ) h		4
		f	( 4 )	( c ) , c Î [ a , b ]	( 7 )
	1 8 0
– 2	.

		Nhận xét:
f		Tính sai số của công thức Simpson tổng quát bằng công thức (7) đòi hỏi phải biết
	( 4 )	( x ) , nghĩa là phải biết biểu thức giải tích của hàm số	y = f ( x ) .  Nhưng trong thực tế,

thường chỉ biết hàm số y = f ( x ) dưới dạng bảng, do đó người ta thường xác định gần đúng sai

 

số của công thức Simpson tổng quát như sau: giả sử trên	[a , b ]	đạo hàm f ( 4 ) ( x )  ít biến đổi,
do (7), nhận được biểu thức gần đúng của sai số phải tìm là	R  = M h		4	, trong đó M xem là hằng

số. Gọi I s ( h )

và

I s (

h

) là giá trị gần đúng của

2

tổng quát với bước h và bước

h

, ta có:

2

I = I

s

(

I = I

s

(

Từ đó I

h

) –

I

s ( h ) =

1 5

M h

4

và

æ h

s (

I – I s  ç

2

1 6

è

2

b

 

I = ò f ( x )d x

 

a

 

h ) +		M h	4
h	) +	M (	h	)	4	.
2			2
ö	»	1		æ h
÷		I	s	ç
		1 5			2
ø				è

nhận được từ công thức Simpson

 

 

ö	–	I		( h )	(8 )
÷			s
ø

Với giả thiết đạo hàm

 

f ”( x )

ít biến đổi trên đoạn

 

• a , b ]

, ta có công thức thực hành tính

 

sai số:

 

I – I

æ

h

ö

»

1

æ h

ö

– I

( h )

( 9 ) ,

T

ç

÷

I

T

ç

÷

T

2

3

2

è

ø

è

ø

trong đó  I		( h )	và  I		(	h	) là giá trị gần đúng của
	T			T
					2

	b														h
I =	ò	f ( x ) d x  nhận được từ công thức hình thang tổng quát với bước h và bước														.
													2
	a
								1				s i n (1 + x	2 )
		2.4. Ví dụ: Tính gần đúng tích phân xác định						I = ò						d x , với m = 5.
												1 + 3 x 3
								0
		Ta có: n=2m=2.5=10; [a ; b ] = [0 ; 1 ] Þ h  =				1 – 0				= 0 , 1
		x0 = 0, xn = x10 = 1, xi			1 0						)
				= x0 + i.h = 0 + i.0,1 (			i = 1, 9
		Ta có bảng giá trị của hàm f(x) tại các xi:
			i	xi	f(xi)
			0	0	0.84147098
			1	0.1	0.84429895
			2	0.2	0.84219163
			3	0.3	0.82019141
			4	0.4	0.76913012
			5	0.5	0.69017063
			6	0.6	0.59336444
			7	0.7	0.49124581
			8	0.8	0.39337791
			9	0.9	0.30484059
			10	1	0.22732436

55

 

Vậy áp dụng công thức Simpson ta có:

 

I »	h	[f ( x		) + f ( x		) + 4 ( f ( x		) + f ( x		) + . . . + f ( x		) ) + 2 ( f ( x		) + f ( x		) + . . . + f ( x		) ) ] = 0 , 6 2 8 9
	3		0		1 0		1		3		9		2		4		8

(làm tròn tới bốn chữ số thập phân).

 

2.5. Chương trình

 

Tính gần đúng tích phân xác định

 

phím với a , b Π     ; a < b .

 

PROGRAM PP_SIMPSON;

 

USES CRT;

 

VAR  i,n: integer;

 

a,b,h,s0,s1,s2,i1,i2,epsilon: real;

 

t: boolean;

 

b	s i n (1 + x	2 )
I = ò			d x , cận a và b tùy ý nhập vào từ bàn
	1 + 3 x 3
a

KT: Char;

 

{*********************************************************************}

 

FUNCTION f(x:real):real;

 

BEGIN

 

f:=sin(1+x*x)/(1+3*x*x*x);

 

END;

 

{*********************************************************************}

 

BEGIN

 

CLRSCR;

 

REPEAT

 

Writeln(‘ Tinh tich phan gan dung theo cong thuc Simpson’);

 

Writeln(‘ Tinh tich phan gan dung cua ham so

 

	s i n (1 +	x		2	)
y =
	1 + 3 x		3

‘);

 

Write(‘ Nhap can duoi a= ‘); Readln(a);

 

Write(‘ Nhap tren duoi b= ‘); Readln(b);

 

Write(‘ Nhap sai so epsilon = ‘); Readln(epsilon);

 

s2:=0;

 

n:=2;

 

h:=(b-a)/2;

 

s1:=f(a+h);

 

s0:=f(a)+f(b);

 

i2:=h*(s0+4*s1+2*s2)/3;

 

{Tinh tich phan}

 

t:=false;

 

Repeat

 

i1:=i2;

 

s2:=s1+s2;

 

h:=h/2;

 

s1:=0;

 

FOR i:=1 TO n DO

 

s1:=s1+f(a+(2*i-1)*h);

 

n:=2*n;

 

56

 

i2:=h*(s0+4*s1+2*s2)/3;

 

if ABS(i2-i1)<epsilon then

 

begin

 

t:=true;

 

Writeln(‘ Tich phan I = ‘,i2:10:2);

 

end;

 

Until t;

 

Writeln;

 

Write(‘ Ban muon tiep tuc khong (c/k)?’); Readln(KT); UNTIL UPCASE (KT)=’K’;

 

END.

 

e =

 

0

 

.0

*

 

0 0

Kết quả khi chạy chương trình với a = 0, b = 1 và sai số của tích phân nhỏ hơn

 

0 1

:

 

Với độ chính xác

 

 

e =

 

 

0 .0 0 0 0 1

 

 

, ta có

 

 

1	s i n (1		+ x		2	)
ò							» 0 .6 2 8 9
	1	+	3 x	3		d x
0

Ví dụ trên là cách tính tích phân gần đúng của một hàm số cụ thể. Với các hàm số khác, để tính được gần đúng tích phân của nó với cận trên và cận dưới tùy chọn ta có thể sửa phần hàm “FUNCTION f(x:real):real;” trong chương trình trên thành các hàm theo mong muốn sau đó chạy chương trình bình thường.

 

			1	e	x	2	+ 1
Tương tự với hàm trên ta tính được			ò
								d x  » 1 . 7 4 8 5 2 7 4 1
				1	+		5 x	6
			0
nhỏ hơn	e = 0 .0 0 0 0 1	. Kết quả kiểm tra như sau:

với sai số của tích phân

 

 

3. Kết luận

 

Phương pháp Simpson chỉ là một trong các cách tính gần đúng tích phân xác định của một hàm số mà ta có thể lập trình để máy tính thực hiện thay con người. Ngoài ra còn có các phương pháp khác trong việc tính gần đúng tích phân xác định ta cũng có thể lập trình để giải quyết.

 

Một câu hỏi đặt ra là: Ngoài việc tính gần đúng tích phân xác định của một hàm số, còn bài toán nào có thể lập trình để máy tính thay thế con người tính được không? Có nhiều bài

 

57

 

toán có thể làm như vậy. Từ đây mở ra hướng dùng máy tính và ngôn ngữ lập trình để giải quyết các bài toán mà theo cách giải thông thường ta không (hoặc rất khó) làm được.

 

TÀI LIỆU THAM KHẢO

 

• TS. Dương Thủy Vỹ (2007), Giáo trình Phương pháp tính, Nxb Khoa học kỹ thuật.

• TS Lê Khắc Thành (2003), Giáo trình Pascal, Nxb Đại học sư phạm.

• Nguyễn Xuân Liêm, Nguyễn Mạnh Quý (2002), Toán cao cấp A2, Nxb Giáo dục.

• Nguyễn Tô Thành (2007), Lập trình nâng cao, Nxb Đại học Quốc gia Hà Nội.

• Quách Tuấn Ngọc (2002), Ngôn ngữ lập trình Pascal, Nxb Thống kê.

• Volkov E.A. (1986), Numerrical methods, Mir Publishers, Moscow.

• Sastry S. S. (1989), Introductory methods of numerical analysis. Prentice – Hall of India Private limited, New Delhi.

USING PASCAL PROGRAMMING LANGUAGE TO CALCULATE APPROXIMATE VALUE OF DEFINITE INTEGRAL WITH SIMPSON’S FORMULA

 

Doan Vinh Ngoc, Hoang Hien, Truong Quoc Tuan Dien Bien College

 

Abstract: In fact, it is very difficult to find the correct value of the most definite integral of the function. In spite of calculating correct value of definite integral, informatics can help us calculate approximate value of definite integral with the so-called acceptable errors e. “Pascal programming language calculates approximate value of definite integral by Simpson’s rule” is the way to use computer and programming language to solve problems of definite integral effectively.

 

Keywords: Integral, approximate, function, programming, Pascal language, SIMPSON formula.

 

 

 

 

58

---

Tải xuống tài liệu học tập PDF miễn phí

[sociallocker id=”19555″] Tải Xuống Tại Đây [/sociallocker]

---

Ứng dụng mạng nơron, mạng nơron xoắn và sử dụng kết hợp CPU – GPU để tăng hiệu năng tính toán trong phân loại ảnh

Mọi ý kiến đóng góp xin gửi vào hòm thư: [email protected]

Kéo xuống để Tải ngay đề cương bản PDF đầy đủ: Sau “mục lục” và “bản xem trước”

(Nếu là đề cương nhiều công thức nên mọi người nên tải về để xem tránh mất công thức)

Đề cương liên quan: Nghịch lưu đa mức trên cơ sở bộ biến đổi kiểu ma trận với các khâu DC liên kết cách ly tần số cao

---

[toc]

[pdfviewer width=”800px” height=”1000px” beta=”true/false”]http://hotroontap.com/wp-content/uploads/2019/07/%E1%BB%A8ng-d%E1%BB%A5ng-m%E1%BA%A1ng-n%C6%A1ron-m%E1%BA%A1ng-n%C6%A1ron-xo%E1%BA%AFn-v%C3%A0-s%E1%BB%AD-d%E1%BB%A5ng-k%E1%BA%BFt-h%E1%BB%A3p-CPU-GPU-%C4%91%E1%BB%83-t%C4%83ng-hi%E1%BB%87u-n%C4%83ng-t%C3%ADnh-to%C3%A1n-trong-ph%C3%A2n-lo%E1%BA%A1i-%E1%BA%A3nh.pdf[/pdfviewer]

Tải ngay đề cương bản PDF tại đây: Ứng dụng mạng nơron, mạng nơron xoắn và sử dụng kết hợp CPU – GPU để tăng hiệu năng tính toán trong phân loại ảnh

 

Trường Đại học Vinh                                                         Tạp chí khoa học, Tập 47, Số 3A (2018), tr. 64-76

 

ỨNG DỤNG MẠNG NƠRON, MẠNG NƠRON XOẮN

VÀ SỬ DỤNG KẾT HỢP CPU – GPU ĐỂ TĂNG HIỆU NĂNG TÍNH TOÁN TRONG PHÂN LOẠI ẢNH

 

Hồ Sỹ Phương, Phan Văn Dư, Lê Văn Chương, Tạ Hùng Cường Viện Kỹ thuật và Công nghệ, Trường Đại học Vinh Ngày nhận bài 30/9/2018 , ngày nhận đăng 29/11/2018

 

Tóm tắt: Bài báo trình bày và so sánh các phương pháp phân loại ảnh dựa trên mạng nơron nhân tạo nhiều lớp (Multi Layer Perceptron – MLP) và mạng nơ ron xoắn (Convolutional Neural Network – CNN). Dữ liệu được đưa vào huấn luyện là 50.000 bức ảnh của 10 đối tượng khác nhau. Kiến trúc thứ nhất được sử dụng là mạng MLP gồm có 3.853.298 tham số (weight), kiến trúc thứ hai là mạng CNN gồm 528.054 tham số. Bài báo đã đề xuất một vài phương pháp và cấu trúc mạng nhằm tránh hiện tượng quá khớp (overfitting), tăng cường độ chính xác cho mô hình xấp xỉ 80%. Bên cạnh đó, bài báo cũng trình bày và so sánh về thời gian huấn luyện khi sử dụng CPU và kết hợp sử dụng CPU với GPU.

 

1. MỞ ĐẦU

 

Trong những năm gần đây, sự phát triển của khoa học công nghệ và cách mạng công nghiệp 4.0 đang làm cho các nghiên cứu về trí tuệ nhân tạo (Artificial Intelligence – AI) ứng dụng trong lĩnh vực robotics, robot tương tác thời gian thực với môi trường xung quanh… thu hút được sự quan tâm của các chuyên gia trong lĩnh vực điều khiển. Trong robot tự hành, để có thể tương tác với môi trường hoạt động và điều khiển robot chuyển động theo đúng quỹ đạo mong muốn, vấn đề nhận biết, phân tích, nhận dạng và phân loại các vật thể đóng vai trò hết sức quan trọng, giúp chúng ta có cơ sở để đưa ra các tín hiệu điều khiển một cách chính xác, kịp thời. Nhiều công trình nghiên cứu được công bố trên các tạp chí khoa học trong và ngoài nước [1], [10], [12], [15] cho thấy vấn đề này có thể giải quyết và đưa lại hiệu quả cao khi sử dụng mạng MLP, trong đó việc nhận dạng chữ viết tay với độ chính xác lên đến 99,8%.

 

Trong bài báo này, nhóm tác giả nghiên cứu và ứng dụng các cấu trúc mạng MLP và mạng CNN kết hợp với các kỹ thuật tối ưu nhằm nâng cao khả năng phân loại các đối tượng, thực hiện so sánh hiệu quả huấn luyện mạng khi sử dụng CPU với sử dụng kết hợp CPU – GPU về độ chính xác và tốc độ huấn luyện mạng.

 

2. KIẾN TRÚC MẠNG MLP, CNN VÀ CÁC KỸ THUẬT TỐI ƯU MẠNG

 

2.1. Mạng nơron nhân tạo và kiến trúc mạng MLP

 

Mạng nơron nhân tạo, gọi tắt là mạng nơron là một mô hình toán học được xây dựng dựa trên cơ sở các mạng nơron sinh học gồm một số lượng lớn các phần tử (gọi là nơron) kết nối với nhau thông qua các liên kết (gọi là trọng số liên kết) làm việc như một thể thống nhất để giải quyết các vấn đề cụ thể như nhận dạng mẫu, phân loại dữ liệu,v.v… thông qua một quá trình học từ tập các mẫu huấn luyện.

 

Email: [email protected] (H. S. Phương)

 

64

 

1. S. Phương, P. V. Dư, L. V. Chương, T. H. Cường / Ứng dụng mạng Nơron, mạng nơron xoắn…

Mô hình mạng nơron thường được sử dụng rộng rãi nhất là mô hình mạng truyền thẳng nhiều lớp (MLP – Multi Layer Perceptron). Một mạng MLP tổng quát là mạng có

• lớp ( n ³ 2 ) trong đó bao gồm một lớp vào, một lớp ra và một hoặc nhiều lớp ẩn (hình

 

1).

 

Hoạt động của mạng MLP như sau: Tại lớp vào, các nơron nhận tín hiệu vào xử lý (tính tổng trọng số, gửi tới hàm truyền) rồi cho ra kết quả (là kết quả của hàm truyền); kết quả này sẽ được truyền tới các nơron thuộc lớp ẩn thứ nhất; các nơron tại đây tiếp nhận như là tín hiệu đầu vào, xử lý và gửi kết quả đến lớp ẩn thứ 2;…; quá trình tiếp tục cho đến khi các nơron thuộc lớp ra cho kết quả.

 

 

 

Hình 1: Mạng MLP 4 lớp

 

Mạng MPL được sử dụng rất thành công trong việc nhận dạng chữ viết tay [2],

 

• Cơ sở dữ liệu phổ biến rộng rãi nhất cho bài toán này là MINST [16], khi huấn luyện chỉ với 2 lớp ẩn cho độ chính xác lên tới 99,8%. Kiến trúc mạng MPL như hình hình 1, gồm có 1 lớp đầu vào, 2 lớp ẩn và 1 lớp ra. Tùy theo yêu cầu của bài toán, ta có được số lượng đầu vào. Để có độ chính xác cao, tránh hiện tượng quá khớp (overfitting) thì số lượng lớp ẩn và số nơron trên nó là yếu tố quyết định [7].

Ví dụ, trong bài toán nhận dạng chữ viết tay, bộ dữ liệu huấn luyện từ tập MINST

 

có kích thước 28×28 nên số nơron đầu vào là (28×28)= 784, số nơron lớp ẩn 1 là 512, lớp ẩn 2 là 512 và số nơron đầu ra tương ứng từ 0^“9 là 10. Độ chính xác khi huấn luyện là 99.93% và khi kiểm chứng trên mô hình thì độ chính xác đạt gần 99,8%. Trên cơ sở kết quả đó, nhóm tác giả thực hiện thử nghiệm sử dụng mạng MPL trong việc phân loại các

 

đối tượng.

 

2.2. Kiến trúc mạng CNN và các kỹ thuật tối ưu mạng

 

Kiến trúc mạng CNN [1], [2], [12] là kiến trúc mở rộng của mạng MLP được sử dụng rộng rãi trong kỹ thuật học sâu (deep learning) đặc biệt là trong lĩnh vực thị giác máy tính (computer vision). Một trong những giải pháp nhằm tối ưu quá trình huấn luyện mạng được đề xuất là giảm số lượng các trọng số (weight) để tăng tốc độ tính toán, giảm thời gian huấn luyện, tránh hiện tượng quá khớp khi mà lượng dữ liệu đầu vào là rất lớn như các bức ảnh màu, video…

 

65

 

Trường Đại học Vinh                                                         Tạp chí khoa học, Tập 47, Số 3A (2018), tr. 64-76

 

 

Hình 2: Kiến trúc của một mạng CNN

 

Mạng CNN có cấu trúc như hình 2, với đầu vào sẽ được nhân xoắn với các ma trận lọc, công việc này có thể được xem như phép lọc ảnh với ma trận lọc khi sử dụng dạng ma trận [7], cũng như phép lọc ảnh bình thường trong không gian 2D thì tích xoắn này cũng được ứng dụng trong trong không gian ảnh màu 3D và trong cả không gian n chiều. Sau khi thu gọn ma trận dưới dạng một véc tơ thì nó sẽ được kết hợp với một mạng MLP đầy đủ như được mô tả ở mục 2.1, với các ảnh xám ma trận đầu vào là 2 chiều, còn với ảnh màu ma trận vào sẽ là 3 chiều.

 

Khi xem xét mạng CNN, khái niệm tích xoắn (tích chập) trong đại số là cơ sở của phần mạng CNN:

 

Đưa vào ảnh xám X và bộ lọc ω có kích thước [m,n], tích xoắn giữa ω và X là:

 

y = X *w , trong đó các thành phần của ma trận y sẽ được tính theo công thức:

 

m -1 n -1	m -1 n-1
yij  = åå X [i – a , j – b ]× w [ a , b ] hay yij  = åå X [i + a , j + b ]× w [- a , –b]		(1)
a = 0 b = 0	a = 0 b=0
Giá trị của ma trận w [- a , –b]	được hiểu là giá trị tại [a , b]của ma trận w sau khi

được lật từ phải sang trái và đảo ngược từ dưới lên (như hình 1)

 

 

Hình 3: Minh họa phương pháp tìm giá trị w [- a , –b] từ ma trận gốc bên trái qua phép lật giữa và đảo từ dưới lên cho kết quả là ma trận bên phải

 

Kiến trúc mạng CNN bao gồm các lớp được gọi là lớp xoắn với ma trận đầu vào là I , bộ lọc K và trọng số b . Ta giả thiết rằng I là ma trận ảnh màu có kích thước [C ´ H ´W ], trong đó C = 3 là số ma trận màu R,G,B và ảnh có kích thước [H ,W ].

 

Khi đó I Î R^{H ´ WxC} , K ÎR ^k1 ^´k2 ^xC và b có kích thước b Î R^D . Tích xoắn giữa I và K sẽ có ma trận mới chính là ma trận đầu ra của lớp xoắn:

 

66

 

1. S. Phương, P. V. Dư, L. V. Chương, T. H. Cường / Ứng dụng mạng Nơron, mạng nơron xoắn…

k1 -1 k2 -1  C
(I * K )ij  = åååK m , n , c × I i + m , j +n , c + b ,	(2)
m = 0 n = 0  c=1

trong trường hợp này, I chính là ma trận được lật như hình 3 từ ma trận lọc I . Với lớp CNN có kích thước C > 3 thì công thức tính toán vẫn như trên và ma

 

trận K sẽ có độ sâu C như ma trận I . Ví dụ, cho 6 ma trận lọc có kích thước 5×5, tích xoắn của ảnh màu I với lần lượt từng bộ lọc K sẽ tạo ra 6 ma trận được sắp xếp như hình 4.

 

 

Hình 4: Ma trận đầu ra được tạo từ 6 ma trận con qua phép tích xoắn

giữa ma trận vào I và ma trận lọc K trượt trên I

 

Khi xây dựng được mạng CNN người ta thêm vào các kỹ thuật pooling, dropout, normalizing, regularization để tối ưu thời gian huấn luyện và tránh hiện tượng quá khớp [7]:

 

• Pooling [7]: Quá trình giảm kích thức ảnh sau khi tính tích xoắn để lấy các pixel

đặc tính đặc trưng nhất.

 

• Dropout [7], [11]: Cắt bớt số nơron khi thực hiện thuật toán lan truyền ngược nhằm tăng tốc độ huấn luyện mạng

• Normalizing [7]: Kỹ thuật chuẩn hóa dữ liệu về dạng dữ liệu trong dải tính toán

phù hợp.

Giả sử X là dữ liệu cần chuẩn hóa, khi đó:

			1				m
+ Kỳ vọng của dữ liệu tính được:	m =					å X (i) ;		(3)
			m				1
+ Sai lệch của dữ liệu so với kỳ vọng:	DX = X – m ;							(4)
				1			m
+ Phương sai của dữ liệu DX :	s 2	=					å( DX )2 ,	(5)
				m
							1
do đó đầu ra dữ liệu được chuẩn hóa sẽ là:	X =	DX				.		(6)
		s 2

• Regularization [7]: Kỹ thuật sử dụng thêm tham số l trong hàm mục tiêu J khi tối ưu hóa:

		1	m	1 l
J regularized	= –		å ( y ( i ) log (a [ L ](i ) )+ (1 – y ( i ) )log (1 – a(L )(i ) ))+				åååWk[ l,]j2    (7)
				m 2
		m i =1					lkj

Các mô hình CNN được xây dựng chủ yếu sử dụng hàm ReLU (hình 5) để tăng tốc độ tính toán so với các hàm phi tuyến khác và có đạo hàm không đổi khi huấn luyện.

 

67

 

Trường Đại học Vinh                                                         Tạp chí khoa học, Tập 47, Số 3A (2018), tr. 64-76

 

 

 

		Hình 5: Hàm ReLU
ReLU	if	(8)
	if

Chúng ta cần một mô hình xác suất sao cho với mỗi đầu vào thì xác suất để đầu vào đó rơi vào lớp i phải dương và tổng của chúng bằng 1. Để làm được việc đó, ta xây dựng hàm Softmax (hình 6). Ta có:

y		=	eZk	, “i =1, 2,…., C ; z = W T X .	(9)
	k		C
			åeZ j

• =1

Ta có: y_k = P( a_k = k | i_k , W ) , trong đó y_k thể hiện xác suất của đầu ra mô hình rơi vào lớp k khi có đầu vào i_k và tham số mô hình W (ma trận trọng số).

 

 

 

 

Hình 6: Mô hình Softmax Regression dưới dạng Neural Network

 

68

 

1. S. Phương, P. V. Dư, L. V. Chương, T. H. Cường / Ứng dụng mạng Nơron, mạng nơron xoắn…

Trong mạng nơron, việc tìm giá trị nhỏ nhất của hàm mất mát (cost functions) là điều bắt buộc. Việc tìm điểm cực tiểu toàn cục của nó rất phức tạp, thậm chí là bất khả thi. Thay vào đó, người ta thường cố gắng tìm các điểm cực tiểu địa phương và có thể xem đó là nghiệm cần tìm của bài toán. Cách tiếp cận phổ biến nhất là xuất phát từ một điểm mà chúng ta xem là gần với nghiệm của bài toán, sau đó dùng một phép toán lặp để tiến dần đến điểm cần tìm, nghĩa là đến khi đạo hàm gần với 0. Giải thuật Gradient Descent và các biến thể của nó là một trong những giải thuật được dùng nhiều nhất.

 

Giả thiết mạng nơron có  K  lớp, có tập huấn luyện với m dữ liệu vào – ra như

sau:
{(x (1) , y (1) ), (x ( 2 ), y ( 2) ),   , (x ( m ), y(m) )}.	(10)

Lúc đó hàm mục tiêu (hàm mất mát – cost function) trong bài toán phân lớp hồi quy sẽ là [5,7]:

 

	1	m				l	m
J (q ) = –		êé å y ( i ) log hq (x ( i ) )+ (1 – y ( i ) )log 1 – hq (x(i ) ) úù			+		åq j2   (11)
	m ë i =1		(	)û		2m j =1

Còn với mạng nơron K lớp, hàm mục tiêu sẽ là [10][7]:

 

1

m   K

+ (1 – y k(i ) )log (1 – ( hq

)úù

l

L-1  sl    sl +1

2

J (q ) = –

êéåå y k(i ) log (hq (x ( i ) ))k

(x(i ) ))k

+

ååå(q (jil ) ) , (12)

m ë i =1  k =1

û

2m l =1  i =1  j =1

với

(hq (x )) = ith

đầu ra thứ i của mạng.

i

(

)

Để tối ưu hóa hàm mục tiêu trên ta tìm MinJ

q

sau đó tiến hành cập nhật tham

số mô hình q (ma trận các trọng số của mạng) bằng giải thuật Gradient Descent. Giải thuật này phổ biến và cho hiệu quả tốt nhất khi tập dữ liệu lớn (Big data), trong học sâu người ta đề xuất thêm các biến thể của giải thuật Gradient Descent như SGD [7], [13], [17], Adam [5], [6], [7], [8], RMSProp [7], [8]. Trong bài báo này, chúng tôi sử dụng thuật toán tối ưu RMSProp là một phương pháp đơn giản, cho hiệu quả cao trong bài toán phân loại ảnh [1], [12].

 

3. THỬ NGHIỆM HUẤN LUYỆN VÀ KIỂM CHỨNG MÔ HÌNH

 

3.1. Tập hợp dữ liệu huấn luyện

 

Trong bài báo này, tập hợp dữ liệu được trích ra từ tập hợp dữ liệu CIFAR-10

 

• gồm 50.000 bức ảnh dùng làm tập huấn luyện (training data), 10.000 bức ảnh dùng làm tập kiểm chứng mô hình (test data), trong tập dữ liệu huấn luyện có 10% dữ liệu (5.000 bức ảnh) ngẫu nhiên được loại ra bằng cách xoay vòng để tránh trường hợp chưa khớp (underfitting), mỗi bức ảnh trong tập dữ liệu là ảnh màu có kích thước 32x32x3 điểm ảnh, các bức ảnh trong tập dữ liệu này đã được tiền xử lý và đảm bảo chỉ có một đối tượng xuất hiện trong một bức ảnh, dữ liệu phân loại được phân theo 10 lớp.

69

 

Trường Đại học Vinh                                                         Tạp chí khoa học, Tập 47, Số 3A (2018), tr. 64-76

 

 

Hình 7: Phân chia tập hợp dữ liệu trong bài báo

 

 

Hình 8: Lấy ngẫu nhiên 36 bức ảnh trong tập dữ liệu huấn luyện

 

3.2. Cấu trúc phần cứng

 

Máy tính sử dụng có cấu hình:

• CPU: Intel® Core™ i7 6700HQ Processor;
• RAM: 2 thanh DDR4 2133 MHz SDRAM 4GB;
• Card đồ họa: Integrated Intel® HD Graphics 530;

• GPU rời: NVIDIA® GeForce® GTX 950M với 4G GDDR5 VRAM, trong đó: + Lõi CUDA: 640;

+ Xung BoostBase (MHz): 914;

+ Xung cho bộ nhớ: 2500 MHz;

+ Giao tiếp bộ nhớ chuẩn GDDR5;

 

+ Độ dài dữ liệu giao tiếp bộ với bộ nhớ:128-bit; + Tốc độ giao tiếp với bộ nhớ (GB/sec): 80.

 

Kiến trúc CUDA (Compute Unified Device Architecture) [8] cho phép tăng tốc

 

độ tính toán của chương trình lên nhờ khả năng tính toán song song, hỗ trợ mọi chức năng tính toán thông qua ngôn ngữ C, hỗ trợ các các ngôn ngữ như Python, Fortran, Java và MATLAB để cài đặt các thuật toán chạy trên GPU. Phần mềm được sử dụng là Tensor Flow hỗ trợ GPU và OpenCV.

 

3.3. Thử nghiệm với mạng MLP

 

Ta xây dựng mạng MLP có kiến trúc như hình 9 với các thuộc tính như bảng 1 để phân loại các đối tượng trong tập dữ liệu đã nêu ở mục 3.1.

 

70

 

1. S. Phương, P. V. Dư, L. V. Chương, T. H. Cường / Ứng dụng mạng Nơron, mạng nơron xoắn…

 

 

 

 

 

Hình 9: Mạng MLP ứng dụng trong nhận dạng

 

Bảng 1: Thuộc tính của mạng MLP

 

Tên lớp	Số lượng node	Hàm	Dropout	Tham số
Đầu vào	3.072			3.073.000
Lớp ẩn 1	1.000	ReLU	0,2	512.512
Lớp ẩn 2	512	ReLU	0,2	262.656
Đầu ra	10	Softmax		5.130
Tổng	4.594			3.853.298

Mạng MLP sử dụng phương pháp tối ưu RMSprop, kích thước mỗi lần đưa vào huấn luyện là 32 ảnh, số lần huấn luyện là 10.

 

3.3. Thử nghiệm với mạng CNN

 

Mạng CNN được xây dựng với các thuộc tính mạng như bảng 2 được chỉ rõ trong hình 10.

 

71

 

Trường Đại học Vinh                                                         Tạp chí khoa học, Tập 47, Số 3A (2018), tr. 64-76

 

 

 

 

 

Hình 10: Mạng CNN trong việc phân loại ảnh

 

Bảng 2: Thuộc tính mạng CNN

 

Tên mạng	Tên lớp	Convolution	Pooling	Tham số
	Layer 1	32x32x16	2	208
CNN	Layer 2	16x16x32	2	2.080
	Layer 3	8x8x64	2	8.256
Tên mạng	Tên lớp	Hàm	Dropout	Tham số
	Input			0
MLP	Hidded Layer 1	ReLU	0,4	512.500
	OutPut	Softmax		5.010
Tổng				528.054

Việc xây dựng mô hình được thực hiện theo thuật toán trên hình 11 và để tối ưu hóa mô hình không bị quá khớp với độ chính xác cao, nhóm tác giả đã sử dụng mô hình mạng CNN ở hình 10.

 

72

 

1. S. Phương, P. V. Dư, L. V. Chương, T. H. Cường / Ứng dụng mạng Nơron, mạng nơron xoắn…

 

 

 

Hình 11: Sơ đồ chương trình huấn luyện mạng CNN

3.4. So sánh các kết quả đạt được

 

Hình 12 thể hiện kết quả của mô hình đã được huấn luyện với bức ảnh không gạch chéo thể hiện kết quả nhận dạng chính xác, còn có gạch chéo cho kết quả nhận dạng sai.

 

 

 

Hình 11: Kết quả thử nghiệm mô hình CNN

 

Bảng 3 thể hiện các kết quả đạt được khi huấn luyện và kiểm nghiệm độ chính xác với hai kiến trúc của mô hình MLP và CNN đã nêu ở trên:

 

73

 

Trường Đại học Vinh                                                         Tạp chí khoa học, Tập 47, Số 3A (2018), tr. 64-76

 

• Mạng MLP cho độ chính xác 45% khi huấn luyện 20 lần (Epochs=20) trong đó mạng CNN là 79% khi huấn luyện 40 lần (Epochs=40) (độ chính xác tăng lên xấp xỉ 80% khi tăng số lần huấn luyện). Khi sử dụng CPU kết hợp GPU thì có thể tối ưu được thời gian huấn luyện lên đến 3^“4 lần (tùy thuộc vào cấu trúc phần cứng sử dụng) so với việc sử dụng CPU. Khi số lần huấn luyện tăng lên nhiều thì thời gian huấn luyện khi sử dụng CPU kết hợp GPU tăng lên không nhiều, và tăng không đáng kể khi dùng CPU.

• Khi số lần huấn luyện tăng lên 50, 60,…,100 thì độ chính xác không cải thiện thêm mà chỉ dao động quanh 45% cho mạng MLP và 80% cho mạng CNN do hiện tượng quá khớp. Hiện tượng này xảy ra khi mạng có năng lực quá lớn và để hạn chế bớt năng lực của mạng ta có thể hạn chế số nút ẩn; ngăn không cho mạng sử dụng các trọng số lớn; giới hạn số bước luyện.

Bảng 3: Kết quả đạt được

 

Tên mạng	Thời	gian	Thời   gian	Thời   gian	Thời   gian	Độchính
	huấn  luyện		huấn  luyện	chạy   kiểm	chạy   kiểm	xác  của  mô
	sử	dụng	sử dụng	tra sử dụng	tra sử dụng	hình (%)
	CPU (s)		CPU-GPU	CPU	CPU-GPU
			(s)	(s)	(s)
MLP	987		200	2,1	1	39
Epochs=10
Batch_size=32
MLP	1.133		201	2,2	1	45
Epochs=20
Batch_size=64
CNN	386		177	2,2	1,3	63
Epochs=10
Batch_size=32
CNN	710		256	2,2	1,4	69
Epochs=20
Batch_size=64
CNN	1.020		319	2,3	1,4	74
Epochs=30
Batch_size=128
CNN	1.194		351	2,3	1,4	79
Epochs=40
Batch_size=256

4. KẾT LUẬN

 

Bài báo trình bày phương pháp phân loại ảnh sử dụng mạng MLP, mạng CNN và ứng dụng các kỹ thuật tối ưu quá trình huấn luyện mạng. Sau khi xây dựng và thử nghiệm thành công hai mô hình mạng MLP và CNN trên cơ sở sử dụng kết hợp CPU-GPU, bài báo đã đưa ra kết quả so sánh về hiệu quả phân loại ảnh giữa trường hợp khi sử dụng CPU và trường hợp khi sử dụng kết hợp CPU-GPU trong quá trình huấn luyện cũng như kiểm nghiệm mô hình. Thực hiện kiểm nghiệm cho thấy khi sử dụng mạng

 

74

 

1. S. Phương, P. V. Dư, L. V. Chương, T. H. Cường / Ứng dụng mạng Nơron, mạng nơron xoắn…

CNN cho kết quả phân loại ảnh đạt độ chính xác gần 80% và không cải thiện thêm khi tăng số lần huấn luyện. Để nâng cao kết quả của việc huấn luyện ta cần sử dụng tập huấn luyện có chất lượng ảnh cao hơn cũng như các kỹ thuật khác được trình bày trong [3], [4], [14].

 

TÀI LIỆU THAM KHẢO

 

• Alex Krizhevsky, Ilya Sutskever, Geoffrey E. Hinton, ImageNet classification with deep convolutional neural networks, Advances in Neural Information Processing Systems, 2012, pp. 1097-1105.

• Krizhevsky, Learning Multiple Layers of Features from Tiny Images. Ph.D dissertation, University of Toronto, 2009.

• Baoyuan Liu, Min Wang, Hassan Foroosh, Marshall Tappen and Marianna Penksy, Sparse Convolutional Neural Networks, The IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2015, pp. 806-814.

• Graham, Sparse 3D convolutional neural networks, arXiv:1505.02890v2, 2015.

• Duchi, J., Hazan, E., & Singer, Y, Adaptive Subgradient Methods for Online Learning and Stochastic Optimization, Journal of Machine Learning Research, 2011, 2121–2159.

• E. Hinton, N. Srivastava, A. Krizhevsky, I. Sutskever, R. R. Salakhutdinov, Improving neural networks by preventing co-adaptation of feature detectors, arXiv:1207.0580v1, 2012.

• Ian Goodfellow, Yoshua Bengio, Aaron Courville, Deep Learning, The MIT Press, 2016.

• Jayshree Ghorpade, Jitendra Parande, Madhura Kulkarni, Amit Bawaskar, GPGPU processing in CUDA architecture, Advanced Computing. An International Journal (ACIJ), Vol.3, No.1, 2012.

• John Duchi, Elad Hazan, and Yoram Singer, Adaptive Subgradient Methods for Online Learning and Stochastic Optimization. Journal of Machine Learning Research, 2012.

• Đinh Văn Nam, Phan Văn Dư, Hồ Sỹ Phương, Nghiên cứu và thử nghiệm thiết kế thiết bị tự động đọc ghi dữ liệu các máy hiển thị số trên cơ sở mạng nơ ron nhân tạo,

Hội nghị toàn quốc về cơ điện tử lần thứ 8, 2016, tr. 96-102.

 

• Srivastava, G. E. Hinton, A. Krizhevsky, I. Sutskever, R. Salakhutdinov, Dropout: a simple way to prevent neural networks from overfitting, Journal of machine learning research 15, 2014, pp. 1929-1958.

• Olga Russakovsky, Jia Deng, Hao Su, Jonathan Krause, Sanjeev Satheesh, Sean Ma, Zhiheng Huang, Andrej Karpathy, Aditya Khosla, Michael Bernstein, Alexander C. Berg and Li Fei-Fei, ImageNet Large Scale Visual Recognition Challenge, International Journal of Computer Vision, Volume 115, Issue 3, 2015, pp. 211–252.

75

 

Trường Đại học Vinh                                                         Tạp chí khoa học, Tập 47, Số 3A (2018), tr. 64-76

 

• Sebastian Ruder, An overview of gradient descent optimization algorithms, arXiv:1609.04747, 2017.

• Sergey Zagoruyko, Nikos Komodakis, Wide Residual Networks, Computer Vision and Pattern Recognition, arXiv:1605.07146, 2017.

• https://www.cs.toronto.edu/~kriz/cifar.html.

• http://yann.lecun.com/exdb/mnist/

• http://ruder.io/optimizing-gradient descent.

SUMMARY

 

APPLYING NEURAL NETWORKS, CONVOLUTIONAL NEURAL NETWORKS AND COMBINATION OF CPUS AND GPUS TO INCREASE CALCULATING PERFORMANCE FOR IMAGE CLASSIFICATION

 

This paper presents and compares the image classification methods based on MLPs and CNNs. Training data is 500,000 pictures of 10 different objects. The first architecture to be used is MLPs network that contains 3,853,298 weights, the second architecture is CNNs with 528,054 weights. This paper proposes several methods and architectures network to avoid overfitting phenomenon and increases the accuracy of modeling approximately 80%. Besides on it, the paper also presents and compares time training of models using CPUs, and combining CPUs with GPUs.

 

 

 

 

76

---

Tải xuống tài liệu học tập PDF miễn phí

[sociallocker id=”19555″] Tải Xuống Tại Đây [/sociallocker]

---