키워드

인용구

내용

• The ‘ironies of automation’ refers to a set of unintended consequences as a result of automation, that could detrimentally affect human performance on critical tasks. Automation might increase human performance issues, rather than eliminate them.

  • 자동화의 역설이란 자동화로 인해 의도치 않게 인간의 업무 수행에 부정적인 영향을 주게 되는 형상을 말한다.

• In an attempt to reduce human failures in the operation of a system (such as the control of a railway system, power network or chemical process), some designers may remove the human from the system, as far as possible. Automation can be seen as the solution to human failure – replace human planning, actions and decisions with automatic devices, computer control or artificial intelligence.

  • 많은 산업 영역에서 설계자들은 인간의 실패를 줄이기 위해 시스템으로 인간을 제거하지만 여기서 아이러니가 발생한다. 많은 설계자와 기업가들이 이를 간과하고 자동화를 도입해 해를 입는다.

• irony 1: Designers are human too!

  • 설계자들도 인간이기에 실수를 할 수 있다. 이를 해결하는 것도 인간이다.

• Irony 2: Tasks that are not automated rely on humans

  • 자동화되지 않은 작업은 여전히 인간이 해야 한다. 그 사람들만 남기면 되는 것 아니냐고? 인간은 네트워크 속에서 유동적으로 일한다. 인간은 기계와 다르다.

• Irony 3: The human may have to ‘take over’ if the system fails

  If the personnel monitoring the system did not have practical hands-on experience of the system or this particular scenario prior to automation, they may not have the understanding required to successfully take control.

  • 시스템에 문제가 생길 경우 인간이 나서야 하는데 시스템에 관한 지식이나 실무 경험이 없으면 제어가 힘들다.
  • 실무 경험은 특히 중요하다. 인간이 줄어들면 누가 전수를 해주는가? 지식을 넘어서 업무에 필요한 능력이 있다.

• Irony 4: Retrofitting automation can add complexity

  • 자동화한 시스템을 개선하고 보수하는 과정에서 오히려 더 많은 복잡성이 증가한다.

• Thesla

  Despite the use of significant technology and automation in these vehicles, the ironies of automation include that (1) the driver chooses under what conditions to engage certain automated functions – and these conditions may be outside the design envelope; (2) the driver must remain in control of the vehicle and monitor the environment at all times; (3) some of the automated features are not always reliable.

  • 테슬라는 이러한 자동화를 통해 자동주행차를 만들었지만 다음과 같은 아이러니에 빠진다.

    1. 운전자가 자동화 기능의 조건을 선택해야 하고, 이것이 설계 범위를 벗어날 수도 있다.

    2. 운전자가 차량을 제어하고 모니터링 해야 한다.

    3. 모든 기능이 신뢰성이 있는 게 아니다.

• In aiming to prevent human performance issues, it is often more effective to ‘design out’ the potential for human failure at the start, rather than address it later with softer controls such as competence or procedures. The discipline of Human Factors Engineering (HFE) provides a suite of tools and guidance to align designs with the capabilities and limitations of humans.

  • 기술을 도입하고 자동화를 하고 싶다면 미리 실패 가능성을 설계하는 게 이롭다. 인간이 실수할 수 있으니 인간을 제거하는 게 아니라, 기술을 통해 실수를 보완하고, 또 해당 기술 도입으로 인해 실패하게 될 인간의 영역을 미리 연구하여 이들을 도와주는 쪽으로 채택해야 한다. 기술은 인간을 제거하는 게 아니라 인간을 보완하는 쪽으로 사용되어야 한다.
  • 이를 휴먼 팩터 엔지니어링 분야라고 한다.

시사점

1. 자동화의 역설

   자동화의 역설이란 자동화로 인해 의도치 않게 인간의 업무 수행에 부정적인 영향을 주게 되는 현상을 말한다. 많은 산업 영역에서 설계자들은 인간의 실패를 줄이기 위해 시스템으로 인간을 제거하지만 여기서 아이러니가 발생한다. 많은 설계자와 기업가들이 이를 간과하고 자동화를 도입해 해를 입는다.

   irony 1: Designers are human too!

   설계자들도 인간이기에 실수를 할 수 있다. 이를 해결하는 것도 인간이다.

   Irony 2: Tasks that are not automated rely on humans

   자동화되지 않은 작업은 여전히 인간이 해야 한다. 그 사람들만 남기면 되는 것 아니냐고? 인간은 네트워크 속에서 유동적으로 일한다. 인간은 기계와 다르다.

   Irony 3: The human may have to ‘take over’ if the system fails

   시스템에 문제가 생길 경우 인간이 나서야 하는데 시스템에 관한 지식이나 실무 경험이 없으면 제어가 힘들다. 실무 경험은 특히 중요하다. 인간이 줄어들면 누가 전수를 해주는가? 지식을 넘어서 업무에 필요한 능력이 있다.

   Irony 4: Retrofitting automation can add complexity

   자동화한 시스템을 개선하고 보수하는 과정에서 오히려 더 많은 복잡성이 증가한다.

   테슬라는 이러한 자동화를 통해 자동주행차를 만들었지만 다음과 같은 아이러니에 빠진다.

   1. 운전자가 자동화 기능의 조건을 선택해야 하고, 이것이 설계 범위를 벗어날 수도 있다.

   2. 운전자가 차량을 제어하고 모니터링 해야 한다.

   3. 모든 기능이 신뢰성이 있는 게 아니다.

   기술을 도입하고 자동화를 하고 싶다면 미리 실패 가능성을 설계하는 게 이롭다. 인간이 실수할 수 있으니 인간을 제거하는 게 아니라, 기술을 통해 실수를 보완하고, 또 해당 기술 도입으로 인해 실패하게 될 인간의 영역을 미리 연구하여 이들을 도와주는 쪽으로 채택해야 한다. 기술은 인간을 제거하는 게 아니라 인간을 보완하는 쪽으로 사용되어야 한다. 이를 휴먼 팩터 엔지니어링 분야라고 한다.