자율주행기능을 탑재한 차량의 도로 주행 중 다양한 사고가 빈번하게 발생했을 경우, 그에 따른 책임은 누가져야 될 것인가에 대한 문제는 아주 중요하게 다뤄질 필요성이 있다. 이런 문제를 해결하기 위한 대응방안으로 윤리가이드라인을 선정하게 되는데 가이드라인의 내용은 다음과 같다.

1) 목표와 가치

• 자율주행자동차는 이용자의 안전을 개선하고 이도의 기회와 편익의 증진을 목적으로 하며, 기술은 인간의 자율성과 책임성을 전재로 개발 될 필요성이 있다.

• 자율주행기술로 인해 교통사고가 눈에 띄게 감소한다면 도입에 따른 일부 문제에도 불구하고 윤리적으로 수용 해야한다.

• 기술적으로 피할 수 없는 사고 위험 상황에서 재물이나 동물 등이 손상되더라도 인간의 생명과 안전이 최우선적으로 보호 될 필요성이 있다.

• 자율주행기능으로 인한 딜레마 사고 상황일 경우, 자율주행자동차는 연령,성별, 신체적, 정신적 상태를 감안하여 특정 희생자를 선택하도록 설계가 되어서는 안된다.

2) 디자인 원칙

• 자율주행 기술은 사고를 미리 방지하도록 방어적이고 예방적으로 설계되어야 하며, 운행 중 발생할 수 있는 모든 위험한 상황을 회피할 수 있어야 한다.

• 도로의 운행환경 측면이 정상적이지 않고 법률에서 정한 별도의 운전요령에 대한 규정이 없으며 법규를 위반하지 않으면 진행할 수 없거나 심각한 위험상황이 올 수 있는 경우, 인간의 생명에 위협을 주지 않고 재산상의 손실을 최소화 하는 차원에서 자율주행차의 자율저그로 대응 알고리즘을 결성할 수 있어야 한다.

• 자율주행자동차의 자동충동방지 기술과 같이  사고피해를 획기적으로 감소시킬 수 있는 기술은 사회/윤리적으로 의무화 할 필요성이 있다.

• 자율주행자동차는 어떠한 상황에서도 운전자(사람 또는 시스템)에 대한 정보와 손해배상 책임 여부를 명확하게 할 수 있도록 문서화 된 기록 확보가 중요하다.

• 주행 중 위급상황 시, 시스템이 갑자기 운전자에게 제어권을 넘기도록 설계가 되어서는 안되며 운전자와의 충분한 의사교류 행태를 고려해야 한다.

• 자율주행자동차에 내장된 데이터를 활용해 스스로 차량을 운행하게 하는 기계학습기능은 운행의 안전을 개선할 경우에만 수용할 수 있다.

• 자율주행자동차는 주행 중 위급상황에서 운전자의 도움 없이도 스스로 안전한 운행 환경으로 복귀할 수 있도록 시스템이 설계 될 필요성이 있다.

3) 공급자 의무

• 운행 중인 자율주행차에 결함이 생기지 않도록 제조다와 운영사는 기존 시스템 관리 및 최적화, 개선의 의무를 가질 필요성이 있다.

• 제조사와 운영사는 자율주행 관련 신기술에 대해 공개적으로 전문기관의 검토를 거쳐 일반 고객들에게 명확하게 알려야 할 필요성이 있다.

• 자율주행자동차는 관련 시스템이나 내부적 시스템에 대하여 외부 해킹으로부터 안전하게 설계 되어야 할 필요성이 있다.

4) 관리자 의무

• 자율주행자동차의 선택에 상관없이 인적 피해가 생기는 경우 효과적으로 대응하기 위해서는 독립적인 공공기관에서 각 사례에 관해 체계적인 분석과 관리를 담당 할 필요성이 있다.

• 자율주행자동차의 운행해 대한 책임은 개인, 제조 및 운영사, 인프라 건설사, 정책적 의사결정자 등으로 나눌 필요성이 있다.

• 자율주행자동차의 운행감시 및 운행조작은 개인의 사생활 침해라는 윤리적 문제의 소지가 있기 때문에 자율주행자동차의 중앙적 통제는 제한 될 필요성이 있다.

• 자율주행자동차 운행으로 발생하는 데이터에 대한 사용여부는 반드시 자율주행자동차 소유자 또는 운행자의 승인을 받을 필요성이 있다.

5) 소비자 의무

• 자율주행자동차의 운행을 결정한 사람은 타인의 자유와 안전에 대해서도 상응하는 책임을 질 필요가 있다.

• 자율주행자동차 이용자는 자율운행시스템의 올바를 조작을 위해 운전교습이나 운전면허 시험을통해 자율주행자동차 관련 된 교육을 이수 할 필요가  있다.