수학적 기초와 오차analysis(분석)
페이지 정보
작성일 23-03-23 02:04
본문
Download : [전기공학].hwp
-- 유효숫자 많도록 변수의 기억장소를 넓힘(배정밀도 사용)
◎ 수치 계산시 오차 감소 방법
극한 진법 수학 도함수 오차 / ()
극한 진법 수학 도함수 오차 / ()
-- 덧셈은 절대치가 작은 수부터 계산
-- 가급적 연산 횟수가 작은 식을 고안하여 사용 & 연산의 순서를 잘 조정
§1-3 오 차
-- 비교적 차이가 큰 수끼리 더하거나 빼는 것을 조심
§1-1 수학의 기본 槪念
Download : [전기공학].hwp( 74 )
극한 진법 수학 도함수 오차
설명
-- 절대값이 큰 수로 곱하거나 절대값이 작은 수로 나누는 것을 조심(overflow)
순서
§1-2 진법과 수의 표시
-- 절대값이 작은 수로 곱하거나 절대값이 큰 수로 나누는 것을 조심(underflow)
-- 절대치가 비슷한 두수의 뺄셈에 주의
레포트 > 기타
수학적 기초와 오차analysis(분석)
다.
