수치해석 1장 숙제 - 컴퓨터와 오차

소개글

<컴퓨터와 오차> 숙제입니다. 문제가 쓰여있진 않지만 자세한 풀이와 코드가 쓰여있습니다.

목차

1~6번 문항

본문내용

►문제 1번

저장 할 수 있는 가장 큰 양수 : 6

(6비트-워드인 컴퓨터에서 저장 할 수 있는 가장 큰 양수는 〖(.11)〗_2×2^3 = 6 이므로)

저장 할 수 있는 가장 작은 양수 : 1/16

(6비트-워드인 컴퓨터에서 저장 할 수 있는 가장 작은 양수는 〖(.10)〗_2×2^(-3) = 1/16 이므로)

버림 작업을 하는 6비트-워드인 컴퓨터를 이용해서 구한 값 : 1

( yu/z 에서 u = 3.0, y = 0.75, z = 1.5 이므로 첫번째로 yu 의 값을 구하면 0.75×3.0=2.25 이다. 6비트-워드인 컴퓨터는 가수를 위한 비트수가 2, 지수를 위한 비트수가 2 이므로 계산값 2.25 를 저장할 수 없다. 그러므로 2.25 를 버림 작업한 값인 2가 된다. 다음으로 2 를 z로 나누게 되면 z는 1.5 이므로 계산값은 1.3333⋯ 이 된다. 역시 6비트-워드 컴퓨터에서는 1.3333⋯ 을 저장할 수 없으므로 버림 작업을 통해 1이라는 결과값을 저장한다.)

계산 순서를 달리하여 구한 값 : 1.5

( yu/z 에서 이번에는 y/z 의 값을 먼저 구해보자. u = 3.0, y = 0.75, z = 1.5 이므로 계산값은 0.5 이다. 한편 0.5 는 6비트-워드 컴퓨터에서 저장가능한 수 이므로 버림작업없이 계산값 그대로 0.5 를 저장한다. 다음으로 0.5×u 를 하면 1.5 라는 계산값이 나온다. 1.5 역시 저장가능한 수 이므로 결과값은 1.5 가 된다.)

∴ 계산 순서를 달리하면 결과값이 달라진다.

참값과의 상대 오차 : 결과값이 1인 경우 33.3333⋯% / 결과값이 1.5인 경우 0%

( yu/z 의 참값은 0.75×3.0÷1.5=1.5 이다. 그러므로 결과값이 1 인 경우 상대오차는 ((1.5-1))/1.5×100%=33.3333⋯% 이고 결과값이 1.5 인 경우는 0% 이다.)

참고 자료

없음