수학적 기초와 오차분석
페이지 정보
작성일 23-04-16 17:25
본문
Download : [전기공학].hwp
-- 비교적 차이가 큰 수끼리 더하거나 빼는 것을 조심
극한 진법 수학 도함수 오차 / ()
레포트 > 기타
§1-1 수학의 기본 개념(槪念)
◎ 수치 계산시 오차 감소 방법
§1-3 오 차
Download : [전기공학].hwp( 43 )
§1-2 진법과 수의 표시
순서
-- 절대값이 큰 수로 곱하거나 절대값이 작은 수로 나누는 것을 조심(overflow)
설명
수학적 기초와 오차분석
-- 가급적 연산 횟수가 작은 식을 고안하여 사용 & 연산의 순서를 잘 조정
-- 덧셈은 절대치가 작은 수부터 계산
극한 진법 수학 도함수 오차
-- 유효숫자 많도록 변수의 기억장소를 넓힘(배정밀도 사용)
극한 진법 수학 도함수 오차 / ()
-- 절대치가 비슷한 두수의 뺄셈에 주의
-- 절대값이 작은 수로 곱하거나 절대값이 큰 수로 나누는 것을 조심(underflow)
다.
